Сергей Брин предупреждава за опасностите около ИИ

В писмо, съоснователят на Google казва, че компанията „сериозно мисли“ за проблеми свързани с унищожаването на работни места.

Съоснователят на Google, Сергей Брин, предупреди, че настоящият бум в изкуствения интелект предизвиква „технологичен ренесанс“, който носи много потенциални заплахи. С писмо до учредителите на компанията, публикувано в петък, президентът на Alphabet отправи следното предупреждение:

„Новият възход в изкуствения интелект е най-значимото постижение в дигиталната ера“, пише Брин. „Всеки месец биват открити зашеметяващи нови приложения на технологията.“ Но той добавя, че „такива мощни инструменти носят със себе си и нови рискове, и повдигат нови въпроси“.

Брин започва писмото си, цитирайки началните редове на „Приказка за два града“ от Чарлс Дикенс: „Най-доброто време от всички времена, беше най-лошото време за всички времена“. Той отбелязва, че изчислителната мощ се развива прогресивно след създаването на Google през 1998 г,  как по онова време технологията, която днес представлява гръбнака на изкуствения интелект, невронните мрежи, е просто „забравен абзац в компютърните науки“.

„Най-значимото постижение в компютърните технологии“

Революцията в машинното обучение през последното десетилетие промени много неща, като Брин изброява някои от многото начини, по които AI се използва за захранване на услугите и фирмите на Alphabet: анализиране на изображенията в Google Photos; превеждане на над 100 езика в Google Translate; управление на навигационните системи в автомобилите на Waymo; диагностициране на болести и откриване на нови планетарни системи, и много други.

„В този смисъл ние наистина сме в технологична революция, вълнуващо време, когато изкуственият интелект може да намери приложения в почти всеки сегмент на съвременното общество“, пише Брин.

Но също така отбелязва, че AI създава и редица проблеми „от страха от посланията на научната фантастика до по-близките до настоящето въпроси, като признаването на възможностите на самоуправляващите се автомобили.“ Брин казва, че Alphabet си дава „сериозна сметка“ за редица сериозни въпроси, включително как AI ще засегне работните места; предизвикателството за създаване на безпристрастни и прозрачни алгоритми; и опасенията, че тази технология ще бъде използвана за „манипулиране на масите“, например чрез фалшиви новини и непреки масови послания.

Странно, обаче, Брин не споменава едно противоречиво използване на изкуствения интелект, което е особено важно за Alphabet: военните приложения на AI. По-рано тази година бе разкрито, че Google са помагали на Пентагона да разработи инструменти за машинно обучение, за анализиране на кадри от видео наблюдение с дронове. Компанията заяви, че технологията е предназначена само за „пасивни приложения“, но хиляди служители на Google поискаха от компанията да се оттегли от проекта.

Писмото на Брин идва точно във време, когато компаниите от Силициевата долина, като никога досега, са под задълбочен анализ от правителството и обществото, особено когато става въпрос за огромният прираст на приходите. Отчетите за миналата седмица в областта на технологиите няма да разсеят опасенията, дори напротив: Alphabet съобщава за 26% увеличение на приходите, до 31.1 млрд. долара, а тези на Amazon са скочили с 43%.

Страхът, че ИИ може да разруши много работни места и да манипулира политическото положение в страните и света, вероятно ще бъде част от бъдещите дискусии за необходимостта от регулирането на властта и влиянието на технологичните гиганти. Това, както и всичко друго, вероятно обяснява и мрачният тон на Брин. Той затваря писмото, като казва:

„Докато съм оптимист за възможността на технологиите да се справят с най-големите проблеми на човечеството, ние сме на път, по който трябва да вървим с дълбока отговорност, грижа и смирение.“

А скритото послание е? Че няма връщане назад! Технологията вече съществува. Останалото е въпрос на морални ценности, и, както Брин сам казва, разум, отговорност и смирение за тези, чиито ръце държат най-способният инструмент в историята на човечеството. „Не бъди зъл“, някога беше мото на Google, но сега вече не можем да сме сигурни.

Вашият коментар

Вашият имейл адрес няма да бъде публикуван. Задължителните полета са отбелязани с *