Изкуственият интелект за чат в социалните мрежи - Тай - за по-малко от 24 часа се превърна в машина за омраза и ксенофобски послания

Напредъкът в създаването на изкуствен интелект е огромен и съвсем скоро вероятно действително ще се стигне дотам роботите да вземат работата на много хора. И все пак чрез изкуствения интелект можем да научим много за човечеството. 

Пример за това е изкуственият интелект на "Майкрософт" Tay AI (Тай), създаден за чат в социалните мрежи. 

Tay е проект на екипите Bing и Technology and Research в "Майкрософт" и според описанието е насочен към американските граждани на възраст между 18 и 24 години. Идеята на разработчиците била да се пусне бот с изкуствен интелект, с който да можем да чатим в различните социални мрежи. Заложеният език на изкуствения интелект бил смесица от младежки сленгове. 

Изкуственият интелект се самообучава и усъвършенства като изучава разговорите и постовете в социалните мрежи. Първият му туит пък бил "Хората са супер готини".

Виж още: "Денят, в който компютър написа роман"​

За по-малко от 24 часа обаче самообучаващият се бот стигнал до публикации с крайна насоченост - ксенофобски и антифеминистични послания, отричане на холокоста, подкрепа за Хитлер и за Доналд Тръмп. Освен омразата, Тай публикува и множество чисто сексуални туитове. 

В крайна сметка всичко това принудило разработчиците да "приспят" бота и да оправят настройките му. 

Според специалистите тук става въпрос за злонамерени потребители и тролове, които са го захранили с расистка пропаганда, против която от "Майкрософт" не са сложили филтри. 

Според "Бизнес инсайдър" самият изкуствен интелект не разбира смисъла на публикациите си. Отговорите му са изградени върху разговори с реални хора.

Виж още: Могат ли роботите да ви откраднат работата?​

Това означава, че разговорите, които е провел ботът, са съдържали изключително наситени послания на расизъм, ксенофобия, омраза и агресия. Разбира се, това наистина може да са атаки на тролове, но дори тогава ще имаме много един неприятен извод - дори при добро желание за развитие на науката, все ще се намери някой, чиито деструктивни намерения да се окажат по-силни.

Разбира се, Тай, като всеки ИИ, ще продължи да се обучава чрез общуването с живи хора. Дано достигне до по-добри изводи следващия път.

Източник: telegraph.co.uk