Учен: ИИ най-вероятно ще е последното изобретение на човека (ВИДЕО)

Роман Ямполски твърди, че най-опасният ИИ няма да изглежда като злодей, а като система, която човекът вече не разбира

Роман Ямполски е сред учените, които от години предупреждават, че най-голямата опасност от изкуствения интелект не е в днешните чатботове, а в следващата стъпка: системи, които надминават човека и вече не могат да бъдат надеждно обяснени, предвидени или контролирани, пише Flagman.bg.

Той е професор по компютърни науки в University of Louisville и работи в областта на AI safety, киберсигурността, дигиталната криминалистика, поведенческата биометрия и машинното обучение. Биографията му показва над 100 научни публикации, книги и изследвания, свързани с безопасността на изкуствения интелект.

Основната му теза звучи стряскащо: ако човечеството създаде изкуствен общ интелект, а след това и суперинтелект, няма гаранция, че ще може да го управлява. В научната си статия „On Controllability of AI“ Ямполски твърди, че пълният контрол върху напреднал ИИ не е доказан като възможен, а наличните аргументи сочат обратното: достатъчно развита система няма да бъде напълно контролируема.

За него опасността не се изчерпва с холивудския сценарий за робот, който решава да унищожи хората. По-сериозният проблем е целта. Ако една система получи задача, но я тълкува по начин, който човекът не е предвидил, последствията могат да бъдат катастрофални. Колкото по-интелигентна е системата, толкова по-трудно става човекът да предвиди стъпките ѝ.

В друго свое изследване, посветено на непредсказуемостта на ИИ, Ямполски защитава тезата, че не можем точно и постоянно да предвиждаме действията на система, по-интелигентна от нас, дори да знаем крайните ѝ цели. Това е централно предупреждение: проблемът не е само злонамереността, а невъзможността да се изчисли цялото поведение на по-умен от човека агент.

Третият му голям аргумент е свързан с обяснимостта. В изследване за необяснимостта и неразбираемостта на ИИ той посочва, че напредналите системи няма винаги да могат да обяснят решенията си по начин, който е точен. Дори когато дадат обяснение, хората може да не са в състояние да го разберат. Това поставя под въпрос идеята, че „прозрачният ИИ“ сам по себе си решава проблема със сигурността.

През 2024 г. Ямполски събра тези идеи в книгата „AI: Unexplainable, Unpredictable, Uncontrollable“. Самото заглавие обобщава позицията му: най-напредналият изкуствен интелект ще бъде необясним, непредсказуем и неконтролируем. Книгата разглежда въпроси за природата на интелекта, съзнанието, ценностите и знанието, но през призмата на риска за човечеството.

Предупрежденията му стигат и до пазара на труда. В медийни участия Ямполски говори за риск от масова автоматизация, при която не само физическият труд, но и професии като програмиране, анализ, писане и управление могат да бъдат поети от ИИ. Неговата логика е проста: ако машината стане по-добра от човека във всяка интелектуална задача, преквалификацията няма да бъде достатъчно спасение.

Затова Ямполски настоява за по-сериозен дебат преди създаването на системи, които не могат да бъдат спрени. Той не е против тесния ИИ, който решава конкретни задачи в медицина, наука или индустрия. Най-големият му страх е надпреварата към общ изкуствен интелект без доказана безопасност.

Неговите критици смятат, че прогнозите му са крайни. Привържениците му виждат в него един от малкото учени, които казват неприятната част от разговора: ако не можем да докажем, че ще контролираме нещо по-умно от нас, тогава самото му създаване не е технологичен напредък, а експеримент с цялата цивилизация.