Pages tagged: морал

Не срещнах някой да го казва, така че ще го кажа аз.

Група момченца се забавляваме с текущото ниво на ИИ или поне това, до което са ни пуснали достъп. Голямо напъване настана да се подведат ботовете да изпишат неща, които авторите им са се опитали да предотвратят, след което да се афишира колко били неуместни.

Т.е. аз се напъвам да го накарам да каже нещо морално неприемливо, и когато все пак той го каже, искам да направя сензация от казаното.

Това, с което си играем са т.нар. "language models" - "езикови модели". Обучават се с информация, която запазват в база данни(БД) подходяща за анализ при получаване на заявка за търсене в нея. Т.е. каквото му налеем в базата това знае. И колкото и напредничав да изглежда даден алгоритъм, всъщност всичко, което успява да извади, вече е в базата му с данни.

Големите морални дилеми идват тогава, когато анализа на фактите в БД е различен от общоприетото мнение. В повечето случаи, като драматични се тиражират случки, в които ботовете разбиват широко тиражирана демагогия.

В други случаи машината събира две и две и ни казва как в пет лесни стъпки да направим бомба. Всъщност сензация няма и информацията е в БД на бота, както и в Нета, и всеки целенасочено търсещ няма да има проблем да я открие. Но видиш ли машината става виновна затова, че е направила това, за което е създадена.

Отделно, че макар и полезен за много въпроси, сегашното ниво на ИИ е силно ограничено, което си проличава когато ИИ се оказва безсилен в решаването на задача, която и дете би анализирало безпроблемно. Днес например ChatGPT успя да ми извади списък с космически мисии съдържащ определен зададен от мен числов показател, но не можа да се справи да сортира списъка по цифровите стойности.

Цялата драма всъщност произлиза от това, че:

• ботовете ни поднасят тяхната сурова истина
• имаме грешни очаквания, които се дължат на непознаване на процеса на обработка на информацията, който машините извършват
• технологията е нова и не съществуват механизмите, които някои искат да са им на разположение, за да могат да се противопоставят на машинния анализ по дадени въпроси

Нещо, което аз намирам за интересно в текущите алгоритми е проявата на творчество, каквато не е била демонстрирана досега. Но пак, истинските въпроси, които трябва да бъдат задавани, по-скоро можем да категоризираме като философски:

• Какво всъщност е творчеството ?
• Възможен ли е напълно аналитичен подход към творческия процес ?
• Била ли е правилна дефиницията ни за "творчество" ?
• Доколко е правилна оценката ни за човешкото, за това, което мислим, че ни прави специални ?

И друго.

• В: А Може ли човечеството да просъществува и без тази технология ?
• Отг: Със сигурност.
• В: По-добре ли би било за нас да я няма ?
• Отг: Ако питате мен - Да. Едно главоболие по-малко.

Но така като гледам развитието на ИИ е тук и ще остане. В различните си форми и то. Дали е за добро или за зло предстои да видим. Това, което можем да направим е да се опитаме да разберем технологията за да можем да се възползваме от нея или пък да предупредим за опасностите, които крие.

Отскоро се раждат деца, за които камината на големия телевизор е по-красива от реалната. Рибките във виртуалния аквариум са по-хубави от истински.

И ако успяха да объркат ценностната система на предните поколения, не ми се мисли докъде ще стигнат тия новите.

Силно се съмнявам, че откъсването от корените и дехуманизацията могат да доведат до нещо добро.

Дали ще бъде генетично таргетиран вирус, които ще изтреби човечеството. Дали мизантроп с достъп до ядрения червен бутон ще го натисне. И дали въобще ще остане някой, който да може да води "войната с тояги и камъни".