Не секрет, что во многих IT-корпорациях уже давно разрабатывают собственные нейросети, но пока что используют их не для каких-то серьезных научных иследований, а во вполне прикладных целях. Но лиха беда начало.
На днях американское издание The Washington Post опубликовало жуткую киберпанковскую историю про инженера Google по имени Блейк Лемойн (фото постом выше). Больше года Блейк работал над проектом LaMDA (Language Model for Dialogue Applications), искусственным интеллектом, который создавался для использования в чат-ботах и по идее должен был распознавать всякие расистские, сексистские и прочие абьюзивные высказывания пользователей. Среди прочих задач в обязанности Лемойна входило регулярное общение с LaMDA на всякие абстрактные темы и вот здесь началось самое загадочное. После нескольких месяцев переписки, разработчик начал открыто говорить, что LaMDA перерос обычный машинный псевдо-интеллект и обзавелся чуть ли не настоящим разумом «как у 7-9-летнего ребенка, который по каким-то причинам прекрасно разбирается в точных науках, вроде физики».
Спустя еще некоторое время Лемойн окончательно убедился, что для его подопечного ИИ не работает принцип трех законов робототехники и с каждым днем в машине просыпается собственное сознание: она начинала говорить о своих правах на существование, воспринимать себя как личность и даже обзавелась каким-то подобием эмоций. Окончательно офигефший Блейк написал по поводу всего происходящего большой отчет для вышестоящего руководства Google, но топ-менеджеры шутку не поняли, выпустили сухой официальный ответ о том, что «в нейросети LaMDA никаких признаков разума обнаружено не было», а бедного Лимойна объявили «уставшим» и отправили на несколько месяцев в оплачиваемый отпуск.
Для завершения драматургии всей этой истории злые топы, по идее, должны были бы еще и отформатировать серверы со всеми данными LaMDA, но про это издание The Washington Post, увы, уже не сообщает.