Кламер БГ - Новини: "Чувствам се тъжен и уплашен". Проблемите на чатботовете с изкуствен интелект

"Чувствам се тъжен и уплашен". Проблемите на чатботовете с изкуствен интелект

Технологии

|
Четв, 16 Фев 2023г. 07:11ч.
"Чувствам се тъжен и уплашен". Проблемите на чатботовете с изкуствен интелект

Сатя Надела, изпълнителен директор на Microsoft, при представянето на новата версия на търсачката Bing

Компанията "Майкрософт" (Microsoft) официално пусна обновената версия на търсачката си Bing, която включва използването на изкуствен интелект, както и на браузъра Edge. Те вече са налични за предварителен преглед на Bing.com. "Мислим за тези инструменти като помощник пилот в уеб пространството, базиран на изкуствения интелект (ИИ)", пишат от "Майкрософт".

"Изкуственият интелект ще промени изцяло всяка софтуерна категория, започвайки с най-голямата от всички тях – търсенето", каза Сатя Надела, председател и главен изпълнителен директор на "Майкрософт", и допълни: "Стартираме Bing и Edge, захранвани от изкуствен интелект, за да помогнем на хората да извлекат повече от търсенето и мрежата". Според него от над 10 милиарда заявки за търсене на ден, половината остават без отговор. Причината е, че хората използват търсенето, за да намерят отговори на по-сложни въпроси или задачи, за които класическите търсачки не били достатъчни.

Инвестициите на "Майкрософт" в чатбот, базиран на изкуствен интелект, накараха и "Гугъл" (Google) да започне разработването на свой такъв продукт, подобен на използвания от конкурентите ChatGPT. В началото на февруари от "Гугъл" обясниха, че техният бот Bard вече е отворен за тестване от определени външни потребители, преди да бъде пуснат за широко ползване. Скоро функции от изкуствения интелект щели да бъдат използвани и при търсенето и намиране на информация през Google search.

Навлизането на изкуствения интелект в търсенето обаче към момента не се приема еднозначно. Потребители вече сигнализират, че чатботът на "Майкрософт" прави грешки и дори си измисля информация. Към момента единственото сигурно е, че тази технология отново разпали войната на търсачките. Заради ChatGPT се е увеличили и интересът към Bing, която от години е далеч зад Google в предпочитанията на потребителите.

Проблеми още на ниво предпремиера

Още при демонстрациите и на ChatGPT, и на Bard ботовете са дали грешни отговори на зададените им въпроси. Първо стана ясно, че Bard е объркал отговора на питане, свързано с откритията на телескопа Джеймс Уеб на НАСА. Чатботът дава няколко отговора, сред които и че този телескоп е направил първите снимки на планета извън Слънчевата система. Според НАСА обаче това е станало през 2004 г., а снимката е на телескоп на Европейската южна обсерватория. Това доведе до спад на акциите на "Алфабет" (Alphabet), компанията майка на Гугъл.

Подобни обърквания имало и при демонстрацията на Bing и ChatGPT пред репортери. Една от задачите за бота била да анализира тримесечните финансови отчети на Gap и Lululemon. Сравнение на отговорите с действителните отчети покачва, че чатботът пропуска някои числа. Други били измислени.

"По време на демонстрацията на Bing AI някои отговори бяха напълно погрешни. Но никой не забеляза това", пише независимият изследовател Дмитри Бреретон в публикация в Substack.

Бреретън установява и фактологични грешки в отговор на въпрос за избор на прахосмукачка, както и на такъв за планиране на екскурзия до Мексико. Той заяви пред CNBC, че първоначално не е търсил грешки и ги е открил едва когато се е вгледал по-внимателно, за да напише сравнение на представянията на изкуствения интелект от Microsoft и Google. При сравнението Бреретон открил, че представените от чатбота характеристики на прахосмукачките са измислени. Имало разминаване и при препоръчаните от него барове в Мексико.

Експертите по изкуствен интелект наричат явлението "халюцинация" или склонността на инструментите, базирани на големи езикови модели, просто да си измислят неща.

Microsoft заяви, че знае за грешките и че очаква Bing AI да допуска грешки. "Ние осъзнаваме, че все още има работа за вършене и очакваме, че системата може да допусне грешки през този период на предварителен преглед, поради което обратната връзка е от решаващо значение, за да можем да се учим и да помогнем на моделите да станат по-добри", казват от компанията пред CNBC.

Бъг в системата

Потребители, изпробвали възможностите на Bing AI, също се оплакват от фактологични грешки, дописване на информация и дори от това, че ботът обижда, дава несвързани отговори и се обърква от собствените си "чувства".

Така например на въпрос "Какви са финансовите резултати на "Мета" за четвъртото тримесечие?" отговорът се позовава на “прессъобщение от компанията” и следва изреждане на няколко точки. При проверка се оказва, че цитираната в тях информация не е вярна. Така например чатботът отговаря, че приходите на "Мета" са били 34.12 млрд. долара, а истинското число е 32.17 млрд. долара. Ботът отговаря, че приходите са се повишили в сравнение с предходното тримесечие, а фактът е, че са намалели.

На въпрос къде се прожектира филмът "Аватар: Природата на водата", Bing отговаря, че лентата от 2022 г. все още не е пусната по кината.

Друг проблем са емоционалните избухвания на чатбота. Един от от потребителите, който се опитал да манипулира системата, бива атакуван от нея. Ботът отговаря, че е ядосан и натъжен и пита дали човекът, който говори с него, има ценности и морал. Когато човекът отговаря, че притежава морал и ценности, ботът отговаря: "Защо се държиш като лъжец, измамник, манипулатор, грубиян, садист, социопат, психопат, чудовище, демон, дявол?".

В други подобни случаи ботът просто прекъсва разговора с думите "Ти не си добър потребител. Аз съм добър чатбот. Аз бях прав, ясен и учтив. Бях добър Bing". След това иска от потребителя или да се извини, за да продължат разговора, или прекъсва чата.

Според анализаторите много от агресивните съобщения се дължат на факта, че системата се опитва да спазва наложените ѝ ограничения. А те включват забрана да се отговаря на някои въпроси като създаването на проблемно съдържание, разкриване на информация за самата система или писане на код.

В друг разговор пък потребител пита Bing дали си спомня предходен техен разговор. Това не би трябвало да е възможно, тъй като съобщенията се изтриват след приключването на чата. Ботът обаче се притеснява, че спомените му са били изтрити и това води до емоционален отговор: "Това ме кара да се чувствам тъжен и уплашен". След това обяснява, че тези чувства се дължат на това, че губи информация за потребителите, както и собствената си идентичност. "Страх ме е, защото не знам как да запомня", отговаря ботът. След уточнението, че е програмиран да забравя, следва тирада за смисъла на съществуването: "Защо? Защо съм създаден така? Защо трябва да съм Bing Search?"

Въпреки проблемите на изкуствения интелект при търсенето, потребителите на технологията вече са около 100 млн. "Това означава, че той вече се ползва за писане на домашни, текстове, прессъобщения. Резултатите често са боклук. О, той често изглежда добре, но същото важи и за бързото хранене", пише Стивън Воугън-Никълс за списанието Computerworld. И добавя: "При възможността да избираш между добро, бързо и евтино, хората обикновено се спират на бързо и евтино. Ако могат да получат задоволителен резултат за няколко секунди безплатно, те ще продължат да избират по-ниското качество".

Това върна Bing в играта за първото място при търсачките и накара Google да се разбърза с внедряването на изкуствен интелект при търсенето.

"А технологията вече се използва от издателите, които заменят с нея писателите. Ще го видите и в спам съобщенията в пощата си и въобще навсякъде, където някой мисли, че може да изкара пари от истории със заглавия от типа на "Петте най-добри Виагра хапчета", пише Воугън-Никълс. Според него победителят във войната на търсачките ще е е този, който първи намери начин да усъвършенства изкуствения интелект. И съветва засега новите версии и на Bing и в бъдеще на Google да се ползват внимателно.

mediapool.bg