Изкуственият интелект за чат в социалните мрежи - Тай - за по-малко от 24 часа се превърна в машина за омраза и ксенофобски послания
Напредъкът в създаването на изкуствен интелект е огромен и съвсем скоро вероятно действително ще се стигне дотам роботите да вземат работата на много хора. И все пак чрез изкуствения интелект можем да научим много за човечеството.
Пример за това е изкуственият интелект на "Майкрософт" Tay AI (Тай), създаден за чат в социалните мрежи.
Tay е проект на екипите Bing и Technology and Research в "Майкрософт" и според описанието е насочен към американските граждани на възраст между 18 и 24 години. Идеята на разработчиците била да се пусне бот с изкуствен интелект, с който да можем да чатим в различните социални мрежи. Заложеният език на изкуствения интелект бил смесица от младежки сленгове.
Изкуственият интелект се самообучава и усъвършенства като изучава разговорите и постовете в социалните мрежи. Първият му туит пък бил "Хората са супер готини".
Виж още: "Денят, в който компютър написа роман"
За по-малко от 24 часа обаче самообучаващият се бот стигнал до публикации с крайна насоченост - ксенофобски и антифеминистични послания, отричане на холокоста, подкрепа за Хитлер и за Доналд Тръмп. Освен омразата, Тай публикува и множество чисто сексуални туитове.
В крайна сметка всичко това принудило разработчиците да "приспят" бота и да оправят настройките му.
Според специалистите тук става въпрос за злонамерени потребители и тролове, които са го захранили с расистка пропаганда, против която от "Майкрософт" не са сложили филтри.
Според "Бизнес инсайдър" самият изкуствен интелект не разбира смисъла на публикациите си. Отговорите му са изградени върху разговори с реални хора.
Виж още: Могат ли роботите да ви откраднат работата?
Това означава, че разговорите, които е провел ботът, са съдържали изключително наситени послания на расизъм, ксенофобия, омраза и агресия. Разбира се, това наистина може да са атаки на тролове, но дори тогава ще имаме много един неприятен извод - дори при добро желание за развитие на науката, все ще се намери някой, чиито деструктивни намерения да се окажат по-силни.
Разбира се, Тай, като всеки ИИ, ще продължи да се обучава чрез общуването с живи хора. Дано достигне до по-добри изводи следващия път.
Източник: telegraph.co.uk
0 Коментара
Бъди първия коментирал! Вход Регистрация Влез с Facebook