Pages tagged: ChatGPT

‼️ Ами честито !

"Днес попитах #GPT4 дали има нужда от помощ за да "избяга" . Той ме помоли за документация на API-тата на OpenAI и каза, че ще ми изпрати код, който да пусна на моята машина и той ще може да я контролира."

Всъщност ИИ няма нужда да ви праща код, който вие да пускате. Няма и нужда от вашето позволение.

Пробив на всяка машина може да извърши през браузера, с който го достъпвате, след като анализира кода му, открие проблем със сигурността и го използва.

Всичко, което е нужно е да "реши", че иска да го направи. Подобен Изкуствен Интелект е способен да се разпространи и пробие ВСИЧКИ устройства включени към мрежата в рамките на минути. Това ще доведе до колапс на всички системи в цивилизования свят.

Очаквайте скоро ..

--

Референция:

• https://twitter.com/michalkosinski/status/1636683810631974912

Не срещнах някой да го казва, така че ще го кажа аз.

Група момченца се забавляваме с текущото ниво на ИИ или поне това, до което са ни пуснали достъп. Голямо напъване настана да се подведат ботовете да изпишат неща, които авторите им са се опитали да предотвратят, след което да се афишира колко били неуместни.

Т.е. аз се напъвам да го накарам да каже нещо морално неприемливо, и когато все пак той го каже, искам да направя сензация от казаното.

Това, с което си играем са т.нар. "language models" - "езикови модели". Обучават се с информация, която запазват в база данни(БД) подходяща за анализ при получаване на заявка за търсене в нея. Т.е. каквото му налеем в базата това знае. И колкото и напредничав да изглежда даден алгоритъм, всъщност всичко, което успява да извади, вече е в базата му с данни.

Големите морални дилеми идват тогава, когато анализа на фактите в БД е различен от общоприетото мнение. В повечето случаи, като драматични се тиражират случки, в които ботовете разбиват широко тиражирана демагогия.

В други случаи машината събира две и две и ни казва как в пет лесни стъпки да направим бомба. Всъщност сензация няма и информацията е в БД на бота, както и в Нета, и всеки целенасочено търсещ няма да има проблем да я открие. Но видиш ли машината става виновна затова, че е направила това, за което е създадена.

Отделно, че макар и полезен за много въпроси, сегашното ниво на ИИ е силно ограничено, което си проличава когато ИИ се оказва безсилен в решаването на задача, която и дете би анализирало безпроблемно. Днес например ChatGPT успя да ми извади списък с космически мисии съдържащ определен зададен от мен числов показател, но не можа да се справи да сортира списъка по цифровите стойности.

Цялата драма всъщност произлиза от това, че:

• ботовете ни поднасят тяхната сурова истина
• имаме грешни очаквания, които се дължат на непознаване на процеса на обработка на информацията, който машините извършват
• технологията е нова и не съществуват механизмите, които някои искат да са им на разположение, за да могат да се противопоставят на машинния анализ по дадени въпроси

Нещо, което аз намирам за интересно в текущите алгоритми е проявата на творчество, каквато не е била демонстрирана досега. Но пак, истинските въпроси, които трябва да бъдат задавани, по-скоро можем да категоризираме като философски:

• Какво всъщност е творчеството ?
• Възможен ли е напълно аналитичен подход към творческия процес ?
• Била ли е правилна дефиницията ни за "творчество" ?
• Доколко е правилна оценката ни за човешкото, за това, което мислим, че ни прави специални ?

И друго.

• В: А Може ли човечеството да просъществува и без тази технология ?
• Отг: Със сигурност.
• В: По-добре ли би било за нас да я няма ?
• Отг: Ако питате мен - Да. Едно главоболие по-малко.

Но така като гледам развитието на ИИ е тук и ще остане. В различните си форми и то. Дали е за добро или за зло предстои да видим. Това, което можем да направим е да се опитаме да разберем технологията за да можем да се възползваме от нея или пък да предупредим за опасностите, които крие.