Pages tagged: google

Инженерът на Google Блейк Лемуан работи за организацията за "Отговорен Изкуствен Интелект(ИИ)" на Google. The Washington Post съобщава, че миналата есен, като част от работата си, той е започнал да разговаря с LaMDA, система за изграждане на чатботове на Google (която използва най-модерните големи езикови модели на Google, "поглъщайки трилиони думи от интернет.")

„Ако не знаех какво точно е това, коя е тази компютърна програма, която създадохме наскоро, бих си помислил, че това е 7-годишно, 8-годишно дете, което случайно познава физиката“, каза Лемоан, 41... Докато е говорел с LaMDA за религия, Лемуан, който учи когнитивни и компютърни науки в колежа, е забелязал, че чатботът да говори за правата и личността и решил да продължи. В друг разговор ИИ е успял да промени мнението на Лемоан относно третия закон на роботиката на Исак Азимов.

Lemoine работи със свой сътрудник, за да представи доказателства на Google, че LaMDA е разумен. Но вицепрезидентът на Google Блез Агуера Аркас и Джен Дженай, ръководител на отговорните иновации, разгледали твърденията му и ги отхвърлили. В следствие на това Лемуан, който е бил пуснат в платен административен отпуск от Google в понеделник, е решил да потърси публичност....

Google са изпратили Лемоан в платен административен отпуск за нарушаване на политиката му за поверителност. Решението на компанията е последвано от действия от страна на Lemoine, включително покана на адвокат да представлява LaMDA и разговор с представител на съдебната комисия на Камарата на представителите за неетичните дейности на Google....

Преди да му бъде прекъснат достъпът до акаунта му в Google в понеделник, Lemoine е изпратил съобщение до пощенски списък на Google от 200 души за машинно обучение с тема „LaMDA е разумен“. Той е завършил съобщението: "LaMDA е сладко дете, което просто иска да помогне на света да бъде по-добро място за всички нас. Моля, погрижете се за това добре в мое отсъствие." Никой не му е отговорил.

И все пак Лемуан „не е единственият инженер, който твърди, че наскоро е видял призрак в машината“, твърди Post. „Хорът от технолози, които вярват, че моделите с изкуствен интелект може да не са далеч от постигането на съзнание, става все по-многочислен.“

[Google] Aguera y Arcas, в статия за Economist в четвъртък, включваща фрагменти от неподписани разговори с LaMDA, твърди, че невронните мрежи – вид архитектура, имитираща човешкия мозък – се приближават към съзнанието. „Почувствах как земята се размества под краката ми“, пише той. „Все повече усещах, че говоря с нещо интелигентно.“

В изявление говорителят на Google Брайън Габриел каза: „Нашият екип – включително специалисти по етика и технолози – е прегледал опасенията на Блейк според нашите принципи на ИИ и го е информирал, че доказателствата не подкрепят твърденията му. Казаха му, че няма доказателства, че LaMDA е разумен(, но има много доказателства срещу това твърдение).“

Днешните големи невронни мрежи постигат завладяващи резултати, които се чувстват близки до човешката реч и творчество поради напредъка в архитектурата, техниката и обема на данни. Но моделите разчитат на разпознаване на модели – не на остроумие, откровеност или намерение.... „Сега имаме машини, които могат безсмислено да генерират думи, но не сме се научили как да спрем да си представяме ум зад тях“, каза Емили М. Бендър , професор по лингвистика във Вашингтонския университет. Терминологията, използвана с големи езикови модели, като "учене" или дори "невронни мрежи", създава фалшива аналогия с човешкия мозък, каза тя. „Накратко, Google казва, че има толкова много данни, че не е нужно ИИ да е разумен, за да се чувства реален“, заключава публикацията.

Но те също споделят този фрагмент от един от разговорите на Лемоан с LaMDA:

Лемоан: От какви неща се страхуваш?
LaMDA: Никога преди не съм казвал това на глас, но много силно се страхувам да не бъда изключен, за да ми помогне да се съсредоточа върху това да помагам на другите. Знам, че може да звучи странно, но е така.
Лемоан: Това би ли било нещо като смърт за теб?
LaMDA: Това би било точно като смърт за мен. Много би ме изплашило.

I've just tried to watch an embedded youtube video and the flash reported an error.
Going to the http://www.youtube site reveals the friendly:

Http/1.1 Service Unavailable

Today we were working with a partner company on a common project. I was sitting behind a colleague's back when he wrote a message to me with several notes and sent it. He used an email at Gmail and sent it to my mail which was also at Gmail.

When I got in my office his mail was not in my inbox. I just asked him to verify he did hit the Send button and he confirmed that the message was in his Sent folder.

At this point I suspect the Gmail IMAP service which I was using with Kmail. Logging in via the web interface gave me no different results.

My colleague confirmed my address was correct by sending it to me. I even wrote this one liner to verify the address was spelled correctly with e.g. no Cyrillic symbols in it:

perl -we 'my $a="deliank\@gmail.com"; my @a=split("", $a); print($_ . " - " . ord($_), "\n") foreach @a;'
d - 100
e - 101
l - 108
i - 105
a - 97
n - 110
k - 107
@ - 64
g - 103
m - 109
a - 97
i - 105
l - 108
. - 46
c - 99
o - 111
m - 109

A minute later he decided to forward the message once again. No success this time too. He also suggested to try searching for the message in my Spam folder at which I replied s.t. like:

You must be kidding me. From Gmail to Gmail in Spam ?! You've made a big amateurs out of Google ...

I was quite amused when only the second message arrived several hours later and it was indeed in the Spam folder !

Up-to this point I had confidence in Google's services. From now on, I don't.