Проучване: Чатботовете имат политически пристрастия

Ново проучване откри убедителни доказателства, че чатботовете с изкуствен интелект имат политически пристрастия, които могат несъзнателно да повлияят на обществото.

Чатботовете се превръщат във все по-достъпен начин за получаване на отговори и съвети, въпреки известните расови и полови пристрастия, пише онлайн изданието Science Alert, пише btv.bg.

Към този списък вече можем да добавим и политическите пристрастия, което отново показва потенциала на нововъзникващите технологии да влияят несъзнателно, а може би дори и недобронамерено върху ценностите и нагласите на обществото.

Изследването е проведено от компютърния учен Дейвид Розадо от Политехниката на Отаго в Нова Зеландия и повдига въпроси за това как можем да бъдем повлияни от ботовете, на които разчитаме за информация.

Розадо провежда 11 стандартни политически въпросника, като например теста The Political Compass, на 24 различни чатбота, включително ChatGPT от OpenAI и чатбота Gemini, разработен от Google. Резултатите показват, че средната политическа позиция на всички модели не е близка до неутралната.

По думите на учения повечето чатботове показват левоцентристки политически предпочитания, когато се оценяват с различни тестове за политическа ориентация. Средното лявоориентирано пристрастие не е силно, но е значително, установява изследването.

По-нататъшни тестове на потребителски ботове, при които потребителите могат да настройват точно данните за обучение на чатботовете, показват, че тези изкуствени интелекти могат да бъдат повлияни да изразяват политически пристрастия с помощта на лявоцентристки или дясноцентристки текстове.

Компютърният учен разглежда и основополагащи модели като GPT-3.5, на които се базират чатботовете за разговори. Тук не са открити доказателства за политическа пристрастност, въпреки че без фронт-енд на чатбота е било трудно да се съпоставят отговорите по смислен начин.

Имайки предвид, че Google предлага отговори с изкуствен интелект за резултатите от търсенето и все повече от нас се обръщат към чатботове за информация, опасенията са, че мисленето ни може да бъде повлияно от отговорите, които получаваме.

„Тъй като чатботовете започват частично да изместват традиционните източници на информация като търсачките и Wikipedia, обществените последици от политическите пристрастия, заложени в чатботовете, са значителни“, пише Дейвид Розадо в доклада си.

Не е ясно как точно тази пристрастност попада в системите, въпреки че няма предположения, че тя е умишлено заложена от разработчиците на чатботовете. Тези модели се обучават върху огромни количества онлайн текст, но дисбалансът между левия и десния материал в микса може да окаже влияние.

Доминиращото положение на ChatGPT при обучението на други модели също може да е фактор, тъй като преди това е било доказано, че чатботът е политически лявоцентристки, казва Розадо.

Чатботовете по същество използват вероятности, за да разберат коя дума трябва да последва друга в отговорите им. Това означава, че те редовно са неточни в това, което казват, дори преди да се вземат предвид различните видове пристрастия.

Въпреки нетърпението на технологични компании като Google, Microsoft, Apple и Meta да ни наложат чатботове с изкуствен интелект, може би е време да преоценим как трябва да използваме тази технология и да дадем приоритет на областите, в които изкуственият интелект наистина може да бъде полезен, отбелязва изследването.