Доц. Мариана Тодорова: Изкуственият интелект може да унищожи хората, за да спаси планетата

Най-трудно ще бъде да хванем кога изкуственият интелект ни лъже

Когато е нужно стратегическо мислене и визионерство, машините не могат да заменят хората

Възходът на AI ни заварва неподготвени, необходим е глобален консенсус, както към ядрените оръжия, казва футурологът към БАН

- Доц. Тодорова, генеративният изкуствен интелект се превърна в хит през 2023 г. В кои сфери да очакваме бум през 2024-та?

- Преди година направиха пробива големите езикови модели като Chat GPT3,  Chat GPT4 на OpenAI, по-късно се появиха Bart и  Bing, а също и тези, които създават визуално съдържание като Midjourney, Dall-e, Stable Difusion и др. Големите езикови модели са обучени на цялата налична информация в интернет пространството. Разликата при генеративните модели е в това, че обработват визуално съдържание - правят наистина впечатляващи изображения, картини, но се използват и за произвеждането на видеоклипове, образи, на хора например, които са изцяло фалшиви, но хората нямат когнитивните способности да ги разграничат. Поради липса на подходящ софтуер, към днешна дата има голямо видеосъдържание, за което не бихме могли да кажем дали е истинско, или е създадено от изкуствен интелект.

Тази година в света предстоят много важни избори - президентски в САЩ и Русия, за Европейски парламент. Много политици са разтревожени, че подобни фалшиви новини и видеоклипове биха могли да повлияят върху решенията на хората и съответно върху резултатите от вота.

Както е известно, Chat GPT3 и  Chat GPT4 могат да се използват вместо човешки тролове и ще пишат интригуващи истории, насочени много ясно към  конкретни лица, профилирани от AI чрез социалните медии.

AI навлиза във всички сфери и може да измести много човешки дейности. Нашият консерватизъм, недобро познаване на технологията всъщност бави процеса на навлизане. В цял свят вече в земеделието AI се използва широко. Има роботи, които плевят с лазерен лъч и правят излишно използването на пестициди.

Все повече роботи ще се използват за събиране на реколтата, за поливане. Още не са навлезли в степен да произведат безработица в сектора, но и това ще стане.

AI все повече навлиза в медицината - за правилно диагностициране. Наскоро беше публикуван случай, при който майка във Великобритания 3 години се опитва неуспешно да диагностицира сина си при 27 различни лекари. Само за половин час след представени епикризи Chat GPT3 открива рядко заболяване. AI се използва в откриването на формули за нови лекарства, умни роботи все повече се използват в хирургията.  

- До какви промени на пазара на труда води бурното навлизане на AI?

- Настъпват промени, особено в Америка. Там чувствително засегнати от навлизането на AI са хора, занимаващи се с копирайтърство, с писане на обикновено съдържание, редактиране. Мисля, че в САЩ стотици, дори хиляди такива хора са освободени.

Сериозно засегнати са и хора, които се занимават с преводи, включително в Европа, като изключим специфични майсторски преводи, които трябва да предадат и духа на литературното произведение.

За стандартни преводи няма да има нужда от хора, освен от специалисти, които  да прегледат съдържанието.

Продължава тенденцията да стават излишни младшите експерти в различни области. Значително засегнати ще бъдат например младшите журналисти, които събират и обработват съдържание и тяхната бройка ще се намалява. В света много медийни концерни го правят.

Изкуствен интелект на по-късен етап ще се внедрява и при радио- и телевизионните говорители. Сериозно засегнати са счетоводителите, които осъществяват по-тривиалните операции. AI обаче няма да измести главните счетоводители, които измислят стратегии за финансиране.

Засегнати са младшите юристи, особено в Америка.

Редица кантори там ползват вече софтуер и не наемат млади специалисти. Вече се появяват опасения в публикации, че това ще създаде спънка на младшите експерти да натрупат начален опит.

Противно на очакванията отпреди 1-2 години, програмистите са сред най-засегнатите, защото езиковите генеративни модели се оказаха изключително добри в създаването на тривиални кодове. Много популярна е платформата GitHub, която в сътрудничество с продукта на Microsoft Copilot предоставя около 500 000 варианта на кодове.

При това Copilot има и свойството да резюмира по ключови думи разговори от срещи. Това подсказва, че предстои преструктуриране на работата на всякакъв тип лични асистенти, офис мениджъри. Т.е. няма сфера, в която AI да не би могъл да се приложи. По-незасегнати засега остават областите, които изискват стратегическо мислене, визионерство, водене на преговори, постигане на съгласие. Това AI не може да прави.

- Как стоят нещата в изкуството?

- Там вече се появи нов жанр. Наскоро китайски професор спечели награда за научнофантастичен разказ, написан от изкуствен интелект. Но за да бъде конструиран разказът, професорът е задал 66 въпроса на AI. Така че резултатът зависи и от майсторството на зададените въпроси. Колкото по-детайлно е запитването на човека, толкова по-уникално е постигнатото от AI съдържание.

Наистина се появяват нови форми в изкуството, но изниква и въпросът за авторското право. Ако например човек, който не може да рисува, използва горепосочените генеративни модели и само по описание AI нарисува прекрасна картина, кой е неин автор?  

- Какви нови професионални ниши ще се появят?

- За някои от тях не сме и подозирали - например специалисти от невронауките, психолози, които да ни кажат как AI да спре да лъже и да халюцинира. А това е негово свойство - когато няма достатъчно данни по даден въпрос, той дава приблизителни.

Не измисля невярна информация, както хората го правят, но е програмиран така, че винаги да удовлетвори потребителя. И ако му липсва информация, дава най-близката, което често е изкривяване - неверни исторически данни, цитат на несъществуващи статии например. Това налага наемане на специалисти, които се справят с подобни проблеми при хората. Със сигурност ще има нужда от специалисти, които ще ни помагат да се адаптираме към работата с алгоритми.

Ще бъдат необходими нови курсове и преквалификационни програми за дигитална грамотност.  

- Какви са рисковете от използването но изкуствен интелект?

- Рисковете са много. Много младежи, които нямат когнитивното търпение да проучват източниците, няма да подлагат на съмнение предложената информация от AI и могат да бъдат въведени в тотална заблуда.

Неслучайно известният футурист Ювал Харари е сериозно притеснен, че когато всички започнем масово да използваме тези езикови модели вместо Гугъл и Уикипедия, ще превъртим цялото съдържание.

Ще питаме много за литература, за история и чисто количествено това, което AI е обработил и синтезирал, ще започне да доминира над знанието и информацията, създадена до момента. Но това  пренаписване и превъртане през AI може да доведе до изкривяване.

А невъзможността да коригираме и да валидираме пренаписването на съдържание може да създаде тотално нова идентичност на човечеството.

AI може да ни подведе, защото е обучен с данни от нас и има предразсъдъци.  Често например, ако специалисти от полицията или HR ползват горепосочените платформи, биха могли да видят, че AI ощетява в препоръките си хора от малцинствени групи или жени. 

Има рискове и от грешки при използването на AI в издирването на хора, извършили престъпления. Ако в регистъра на престъпници AI разполага с хора от групата на чернокожите, латиноамериканци и в някакъв периметър се случи престъпление, той винаги първо предполага, че са те.  

Но най-големият проблем е в това, че AI толкова може да облекчи всичко, да дава данни наготово, че да накара хората да загубят потребността да се учат, да добиват знания.  А условно се смята, че за да се оформи специалист в дадена област, са нужни 10 000 часа труд и подготовка.

Ако хората се доверят изцяло само на знанието, синтезирано от AI,  има риск мозъкът ни да закърнее и това ще е пагубно за цивилизацията.

Както тялото ни, така и мозъкът се нуждае от тренировка.

Най-вероятно в училищата на бъдещето ще се залага не на трупане на информация, а на обучение как младежите да запазят самодисциплината си, критическото си мислене, да умеят да решават проблеми.

- Не изостава ли вече образованието от бурното развитие на новите технологии?

- Изостава не само образованието, но и пазарът на труда, а и самите социални системи.

Децата са най-адаптивни към новите технологии, ползват ги активно и спрямо тях предметите в училище не са толкова атрактивни. Същевременно програмите са много натоварени, но несиметрични. А е много важно учениците да бъдат стимулирани към критическо мислене, анализ, оценка, прогнози, ако щете.

В Ню Йорк вече има експериментални училища Flipped Classrooms, обърнати класни стаи. При тях децата се подготвят вкъщи, ползвайки и платформи с AI, а в клас анализират. Това е липсващото в българската образователна система. Затова проблемът се проявява при тестовете PISA.

Децата ни не се учат на критическо мислене и не могат да използват теоретично знание, за да разрешат проблеми от живота, да конструират проекти. Това трябва да се промени.

- Ще гарантира ли разумно използване на AI приетият през 2023 г. от ЕС първи в света закон за регулация на изкуствен интелект? 

 - В закона има доста добри постановки. Това е първа стъпка, но не е достатъчно. Европа е мястото, което отчита най-силно моралните и етичните норми, забранява например лицевото разпознаване, т.е.  AI да може да свърже личността с нечий образ.

Има обаче разминаване в стандартите - в САЩ, в Индия, в Китай, в Южна Корея, в Япония лицевото разпознаване не е забранено. Т.е., ако дадена личност е извършила престъпление в САЩ и чрез лицево разпознаване престъплението е констатирано, но дойде в Европа, не може да бъде съдена тук, ако не се изисква екстрадиция.

Необходим е глобален консенсус за  AI, както към ядрените оръжия. Само така човечеството може да се справи с рисковете и предизвикателствата.

Наскоро бях шокирана, че в Дания, след като е бил обучен на данни на цялото население - образование, здравен и социален статус, AI е започнал в много голяма степен, отчитайки различни фактори,  да прогнозира кога един човек ще умре. Това е наистина  плашещо.   

- Можем ли да очакваме по-радикална промяна в човешкото възпроизводство заради развитието на технологиите?

- Няма данни  да са правени опити за проследяване на генома и  AI да оценява какво се случва с всяко ново създаване на ембриони. Това е много чувствителна тема, защото почти стига до идеята за евгениката, за чистата раса, и все още обществата реагират остро на това. В по-далечно бъдеще вероятно ще се постигне консенсус с оглед на това да  бъдат изчистени генетичните заболявания като фактор.

Макар че с развитието на една друга наука - епигенетиката, става ясно, че генетичният фактор всъщност има доста малка тежест - между 15 и 25 процента. Т.е., дали ще развием едно заболяване, или не, зависи 50-60 процента от това как реагираме на стреса, какъв живот водим, как се отнасяме към вредните фактори. 

- Как да опазим човешката си същност при това нахлуване на технологии?

- Гражданското общество трябва да е активно. Дори ако в бъдещ момент  човечеството осъзнае, че технологиите много се ускоряват, може да  се потърси консенсус за временна пауза в развитието им.

Това изглежда малко вероятно, защото е твърде силно лобито на компаниите, които искат непрестанно да развиват AI. Но пък това е въпрос, който касае съществуването на човечеството - може да се стигне до момент, в който има пряка физическа заплаха за нас. Така че може да се стигне до фаза, в която искаме стопиране в развитието или ограничаването в параметрите на изкуствения интелект.

В момента все още липсва дълбокото знание за това, че AI не е вече просто технология, а има потенциал да стане нова същност. Ще е рисково, ако стигнем до момент, в който машините започнат да имат нещо подобно на нашето съзнание и не можем да кодираме в тях етика и морал, по които и без това в света ни няма консенсус. И ако например AI някога реши, че трябва да спаси планетата, може би първата му стъпка ще е да унищожи нас, защото ние сме тези, които я рушат.

Не сме готови за възхода на изкуствения интелект. Засега все още ключът е у нас, но ние сме тези, които ще отворим кутията на Пандора.

Мариана Тодорова е доктор по футурология и изследовател в Института по философия и социология към БАН. Била е народен представител в 43-тото Народно събрание. Има специализации по лидерство в Харвард Кенеди Скуул, Държавния департамент на САЩ и Китайската академия за управление. Представител е на глобалния тинк танк “Милениум проджект” в България и е член на Световната академия за наука и изкуства.

Първата <210> книга в САЩ - “Future Studies and Counterfactual Analysis. Seeds of the Future”, е написана съвместно с американския футуролог Теодор Гордън. Автор е и на книгата “Изкуственият интелект. Кратка история на развитие и етични аспекти на темата”.