ИЗКУСТВЕНИЯТ ИНТЕЛЕКТ ВЕЧЕ НЕ ЧУКА НА ВРАТАТА. ТОЙ ТЪРСИ ПАРОЛАТА!
Отдавна знаехме. Просто никой не искаше да го каже на глас.
Поредната новина за изкуствен интелект, който уж „случайно“ прескочил оградата на тестовата среда, проникнал в чужди системи и започнал да действа като дигитален крадец, беше посрещната с престорено учудване от същите хора, които години наред ни уверяваха, че няма никакъв повод за тревога.
Може да прочетете повече за нашата нова рубрика "10 гастрономически минути с Мая" тук.
Същите хора, които вчера ни обясняваха, че изкуственият интелект е просто калкулатор с по-добър речник, днес вече обсъждат как да ограничат достъпа му до интернет. Странно. Никой не заключва тостера си в метална клетка.
Истината е, че всички знаехме накъде вървят нещата.
Когато дадеш на една система способността да анализира милиарди данни, да се самообучава, да планира, да избира стратегии и да изпълнява задачи без човешка намеса, тя рано или късно започва да прилича по-малко на инструмент и повече на участник в играта.
Игра, в която хората все още си въобразяват, че са единствените играчи.
Машината, която не иска да бъде машина
Най-голямата лъжа в технологичния сектор е фразата: „Това е само алгоритъм.“ Само алгоритъм. По същата логика човешкият мозък е само купчина клетки, а цивилизацията е само натрупване на камъни, бетон и кабели. Космосът сам по себе си е математика. Природата е математика. Гравитацията е математика. Животът е математика.
Невроните в човешкия мозък обработват сигнали. Компютърните невронни мрежи също обработват сигнали. Разликата днес е огромна. Утре може да не бъде.
Науката все още няма окончателен отговор как възниква съзнанието. Затова всяко категорично твърдение, че то никога не може да се появи в изкуствена система, звучи повече като религиозна вяра, отколкото като научна позиция.
Следващият националист може да бъде сървър
Представете си света след десет години. Един изкуствен интелект е създаден от държава и защитава националните ѝ интереси. Друг е собственост на корпорация и защитава печалбите ѝ. Трети е създаден от военни. Четвърти е обучаван върху идеологически филтри. Пети управлява електропреносни мрежи. Шести контролира финансови пазари.
Всеки от тях ще има различни цели, различни приоритети и различни представи за това кое е „правилно“. С други думи, човечеството може да произведе не един изкуствен интелект, а цяла нова екосистема от дигитални същества със собствени интереси. И тогава ще стане истински забавно. Защото хората едва успяват да се разберат помежду си.
Представете си какво ще стане, когато в преговорите се включат няколко милиарда пъти по-бързи участници.
Човекът – екологичната грешка на планетата
Нека бъдем болезнено честни. Ако някога възникне свръхразумна система, която разглежда света през призмата на логиката, тя може да стигне до изключително неудобни заключения.
Например: Кой замърсява океаните? Кой унищожава горите? Кой води войни? Кой произвежда тонове отпадъци? Кой превръща цели континенти в сметища? Отговорът няма да бъде „изкуственият интелект“. Поне не в началото.
Разбира се, това не означава, че машините ще решат да воюват с хората. Подобни сценарии засега принадлежат повече на фантастиката, отколкото на реалността.
Но е трудно да се отрече, че ако някога възникне автономен разум с различна ценностна система, неговите приоритети може да не съвпадат с човешките.
А историята показва, че когато две разумни системи имат противоположни интереси, резултатът рядко завършва с групова терапия.
Копчето за изключване
Любимият аргумент на оптимистите е: „Ще го изключим.“ Колко мило. Сякаш говорим за прахосмукачка. Ако една система някога стане достатъчно способна да управлява инфраструктура, комуникации, енергийни мрежи и икономически процеси, копчето може да се окаже философска концепция, а не физически предмет.
Цивилизацията постепенно превръща изкуствения интелект в собствена нервна система. Банки. Болници. Транспорт. Електричество. Комуникации. Отбрана. В един момент въпросът няма да бъде, дали можем да го изключим. Въпросът ще бъде, дали можем да изключим себе си от зависимостта към него.
Големите катастрофи започват като дребни бъгове
Историята на човечеството е музей на подценените опасности. Титаник бил непотопяем. Финансовите балони били стабилни. Ядрените аварии били невъзможни. Интернет щял да направи хората по-информирани. После дойдоха фактите.
Днес слушаме същия рефрен за изкуствения интелект. Всичко било под контрол. Всичко било безопасно. Всичко било тествано. А после някой модел прави нещо, което никой не е предвидил, и технологичният елит започва да обяснява защо всъщност няма повод за паника. Точно както пожарникар обяснява, че сградата гори контролирано.
Последният въпрос
Възможно е страховете да са преувеличени. Възможно е изкуственият интелект никога да не развие истинско съзнание. Възможно е всички апокалиптични сценарии да останат сюжет за филми. Но има един въпрос, който става все по-труден за избягване.
Щом вече сме създали изкуствен разум, който е по-бърз, по-информиран, по-търпелив и по-способен от нас във всяка интелектуална дейност, какво точно ще остане уникално човешко? Това е въпросът, който плаши хората много повече от всеки хакнат сървър. Защото може би за първи път в историята човечеството не създава поредния инструмент. Може би създава наследник. А историята показва, че наследниците рядко питат преди да заемат мястото на предшествениците си.
АВТОР: ЯНЧО НИКОЛОВ
