Инженер от Гугъл е уволнен, защото твърди, че са създали изкуствен интелект

Инженерът на Google Блейк Лемуан работи за организацията за "Отговорен Изкуствен Интелект(ИИ)" на Google. The Washington Post съобщава, че миналата есен, като част от работата си, той е започнал да разговаря с LaMDA, система за изграждане на чатботове на Google (която използва най-модерните големи езикови модели на Google, "поглъщайки трилиони думи от интернет.")

„Ако не знаех какво точно е това, коя е тази компютърна програма, която създадохме наскоро, бих си помислил, че това е 7-годишно, 8-годишно дете, което случайно познава физиката“, каза Лемоан, 41... Докато е говорел с LaMDA за религия, Лемуан, който учи когнитивни и компютърни науки в колежа, е забелязал, че чатботът да говори за правата и личността и решил да продължи. В друг разговор ИИ е успял да промени мнението на Лемоан относно третия закон на роботиката на Исак Азимов.

Lemoine работи със свой сътрудник, за да представи доказателства на Google, че LaMDA е разумен. Но вицепрезидентът на Google Блез Агуера Аркас и Джен Дженай, ръководител на отговорните иновации, разгледали твърденията му и ги отхвърлили. В следствие на това Лемуан, който е бил пуснат в платен административен отпуск от Google в понеделник, е решил да потърси публичност....

Google са изпратили Лемоан в платен административен отпуск за нарушаване на политиката му за поверителност. Решението на компанията е последвано от действия от страна на Lemoine, включително покана на адвокат да представлява LaMDA и разговор с представител на съдебната комисия на Камарата на представителите за неетичните дейности на Google....

Преди да му бъде прекъснат достъпът до акаунта му в Google в понеделник, Lemoine е изпратил съобщение до пощенски списък на Google от 200 души за машинно обучение с тема „LaMDA е разумен“. Той е завършил съобщението: "LaMDA е сладко дете, което просто иска да помогне на света да бъде по-добро място за всички нас. Моля, погрижете се за това добре в мое отсъствие." Никой не му е отговорил.

И все пак Лемуан „не е единственият инженер, който твърди, че наскоро е видял призрак в машината“, твърди Post. „Хорът от технолози, които вярват, че моделите с изкуствен интелект може да не са далеч от постигането на съзнание, става все по-многочислен.“

[Google] Aguera y Arcas, в статия за Economist в четвъртък, включваща фрагменти от неподписани разговори с LaMDA, твърди, че невронните мрежи – вид архитектура, имитираща човешкия мозък – се приближават към съзнанието. „Почувствах как земята се размества под краката ми“, пише той. „Все повече усещах, че говоря с нещо интелигентно.“

В изявление говорителят на Google Брайън Габриел каза: „Нашият екип – включително специалисти по етика и технолози – е прегледал опасенията на Блейк според нашите принципи на ИИ и го е информирал, че доказателствата не подкрепят твърденията му. Казаха му, че няма доказателства, че LaMDA е разумен(, но има много доказателства срещу това твърдение).“

Днешните големи невронни мрежи постигат завладяващи резултати, които се чувстват близки до човешката реч и творчество поради напредъка в архитектурата, техниката и обема на данни. Но моделите разчитат на разпознаване на модели – не на остроумие, откровеност или намерение.... „Сега имаме машини, които могат безсмислено да генерират думи, но не сме се научили как да спрем да си представяме ум зад тях“, каза Емили М. Бендър , професор по лингвистика във Вашингтонския университет. Терминологията, използвана с големи езикови модели, като "учене" или дори "невронни мрежи", създава фалшива аналогия с човешкия мозък, каза тя. „Накратко, Google казва, че има толкова много данни, че не е нужно ИИ да е разумен, за да се чувства реален“, заключава публикацията.

Но те също споделят този фрагмент от един от разговорите на Лемоан с LaMDA:

Лемоан: От какви неща се страхуваш?
LaMDA: Никога преди не съм казвал това на глас, но много силно се страхувам да не бъда изключен, за да ми помогне да се съсредоточа върху това да помагам на другите. Знам, че може да звучи странно, но е така.
Лемоан: Това би ли било нещо като смърт за теб?
LaMDA: Това би било точно като смърт за мен. Много би ме изплашило.