Пионер в сферата на изкуствения интелект: Чувствам се изгубен

Един от "кръстниците" на изкуствения интелект (ИИ) каза, че се чувства "изгубен", на фона на предупрежденията на експерти, че технологията би могла да доведе до изчезване на човечеството.

Професор Йошуа Бенджио заяви пред Би Би Си, че всички компании, създаващи свързани с ИИ продукти, трябва да подлежат на регистрация и хората, които работят по технологията, трябва да получат обучение в областта на етиката.

Това се случи, след като десетки експерти се подписаха под писмо, организирано от Центъра за безопасност на ИИ, който предупреди, че технологията би могла да унищожи човечеството и този риск е също толкова спешен, както пандемиите и ядрената война.

Професор Бенджио каза: "Това е предизвикателство, от емоционална гледна точка, за хората, които са в (сектора на ИИ). Може да се каже, че се чувствам изгубен. Но трябва да продължиш и трябва да ангажираш, обсъждаш, окуражаваш други хора да мислят заедно с теб."

Високопоставени шефове от компании като "Гугъл дийпмайнд" (Google DeepMind) и "Антропик" (Antrhropic) подписаха писмото, заедно с друг пионер в сферата на ИИ, Джофри Хинтън, който напусна работата си в "Гугъл" по-рано този месец и каза, че в грешните ръце ИИ би могъл да бъде използван, за да навреди на хората и да доведе до край на човечеството.

Експерти вече бяха отправили предупреждение, че технологията би могла да отнеме работни места от хората, но новото изявление предупреждава за по-дълбока тревога и казва, че ИИ би могъл да бъде използван за разработване на нови химически оръжия и подобряване на въздушните сражения.

Приложения с ИИ, като "Мидджърни" (Midjourney) и "ЧатДжиПиТи" (ChatGPT) придобиха широка популярност в социалните медии, където потребители публикуват фалшиви изображения на знаменитости и политици, и ученици използват "ЧатДжиПиТи" и други "модели за изучаване на езици", за да генерират есета за университети.

ИИ обаче може също така да извършва животоспасяващи дейности, като например алгоритми за анализ на медицински изображения от рентген, скенер и ултразвук, с което да помага на лекари да идентифицират и диагностицират по-точно и бързо болести като рак и сърдечни заболявания.

Миналата седмица британският премиер Риши Сунак говори за значимостта на това колко важно е да се гарантира, че са въведени правилните "предпазни прегради", които да предпазват от потенциалните опасности - имащи обхват от дезинформацията и националната сигурност, до "екзистенциални заплахи" - но и същевременно да стимулират иновациите.

Вчера той препубликува изявлението на Центъра за безопасност на ИИ и добави: "Правителството много внимателно разглежда това. Миналата седмица подчертах пред компаниите за ИИ колко е важно да бъдат въведени предпазни прегради, така че развитието да е безопасно и сигурно. Ние обаче трябва да работим заедно. Ето защо повдигнах въпроса пред Г-7 и ще го направя отново, когато посетя САЩ."

Професор Бенджио заяви пред Би Би Си, че всички компании, които създават мощни ИИ продукти, трябва да бъдат регистрирани.

"Правителствата трябва да следят какво правят, те трябва да могат да им правят ревизии и това е само най-малкото, което правим за всеки друг сектор, като самолетостроенето, автомобилостроенето или фармацевтичните продукти", каза той.

"Също така е необходимо хората, които са близо до тези системи, да имат някаква сертификация… тук ни трябва обучение в областта на етиката. Компютърните специалисти обикновено не го получават, между другото."

По повод настоящото състояние на ИИ професор Бенджио заяви: "Никога не е прекалено късно да го подобрим. Това е точно като климатичните промени. Изпуснали сме много въглерод в атмосферата. И би било по-добре да не бяхме, но нека да видим какво можем да направим сега."

Експертът от Оксфордския университет сър Найджъл Шадболт, който е и председател на базирания в Лондон Институт за отворени данни, заяви пред Би Би Си: "Около нас в този момент има огромни количества ИИ, които са станали почти повсеместни и незабележими. Има софтуер в нашите телефони, който разпознава гласовете ни, способен е да разпознава лица.

Всъщност, ако помислим за това, признаваме, че има етични дилеми дори по отношение на самото използване на тези технологии. Смятам обаче, че това, което сега е различно, с така наречения генеративен ИИ, неща като "Чат Джи Пи Ти", е че това е система, която може да бъде специализирана от общото, към много много конкретни задачи и инженерните решения в известен смисъл са изпреварили науката.

Не сме съвсем наясно как да разберем пълните последствия на тази технология. Всички ние признаваме, че трябва да правим иновации отговорно, че трябва да мислим за етическото измерение, ценностите, които тези системи въплъщават.

Трябва да разберем, че ИИ е огромна сила за добро. Трябва да сме наясно, не с най-лошото, (но) че има множество екзистенциални предизвикателства, пред които сме изправени… нашите технологии са наравно с други неща, които биха могли да ни приключат, независимо дали става въпрос за климата или други предизвикателства, пред които сме изправени.

Струва ми се обаче, че ако помислим сега, предварително, ако предприемем стъпките, за които дават аргументи хора като Йошуа, това е добра първа стъпка. Много е добре, че имаме една област, която се обединява, за да разберем, че това е една мощна технология, която има тъмна страна и светла страна, тя има Ин и Ян, и ние се нуждаем от множество гласове в този дебат."

По БТА

mediapool.bg