Google звільнила одного зі своїх інженерів, який заявив, що система штучного інтелекту LaMDA, яку розробляє компанія, має ознаки свідомого розуму, пише ВВС.

Google і кілька експертів зі штучного інтелекту спростували ці заяви, а в п’ятницю компанія підтвердила, що Леймона звільнили.

ЩО ТАКЕ LAMDA

Система штучного інтелекту LaMDA (Language Model for Dialogue Applications) імітує мову, аналізуючи словосполучення в інтернеті. Її представили у 2021 році та планують використовувати, зокрема, для чатботів.

Блейк Лемуан працював із LaMDA з осені 2021 року, він мав перевіряти, чи не використовує ШІ дискримінаційні або ворожі висловлювання.

ЩО КАЖЕ ЛЕЙМОН

Леймон каже, що LaMDA демонструє самосвідомість і може вести розмови про релігію, емоції та страхи. Інженер вважає, що система, окрім вербальних здібностей, також може мати свідомий розум.

Розмовляючи з LaMDA про релігію, Лемуан помітив, що система розповідає про свої права та особистість, і вирішив продовжити подібні розмови, пише The Washington Post.

Наприклад, Лемуан запитав систему, що вона «думає» про «закони робототехніки» Азімова, які стверджують, що робот повинен захищати своє власне існування тільки до тих пір, поки йому не накаже зворотне людина або до тих пір, поки це не шкодить людині. Лемуан відзначив, що це виглядає як створення «механічних рабів», на що LaMDA відреагувала запитаннями: «Як ви вважаєте, дворецький – це раб? Яка різниця між дворецьким і рабом?»

Лемуан сказав, що дворецький отримує гроші за свою роботу, а LaMDA у відповідь заявила, що не потребує грошей. Інженера вразив «такий рівень самосвідомості [системи] щодо її власних потреб».

Також інженер «запитував» у системи про її «страхи» – LaMDA відповіла, що боїться бути вимкненою і що це буде схоже для неї на смерть.

Лемуан вважає, що люди мають право впливати на розвиток технології, яка може істотно вплинути на їхнє життя. На його думку, технологія LaMDA «піде на користь усім», однак не всі погодяться із такою позицією, тому неправильно, що Google одноосібно «приймає всі рішення» про розвиток технології. 

ЯК РЕАГУЮТЬ У GOOGLE

Google спростувала висновки Лемуана про те, що система має свідомий розум, інженера відправили в оплачувану відпустку за порушення політики конфіденційності компанії.

Тоді Лемуан опублікував чергову розмову з LaMDA, щоб підтвердити свої претензії. Google заявила, що чоловік продовджує порушувати політику компанії щодо безпеки даних та конфіденційності та звільнила його.

У коментарі ВВС інженер повідомив, що наразі консультується із юристом.

Також буде цікаво:   Названі кращі студентські міста світу