Сам Олтман: „Сингулярността вече е тук“ – Анализ на дръзкото твърдение на шефа на OpenAI и дебатът за бъдещето на ИИ
През последните години изкуственият интелект (ИИ) претърпява безпрецедентен напредък, който предизвиква както възхищение, така и опасения. В центъра на този дебат застава Сам Олтман, главният изпълнителен директор на „ОупънЕйАй“ (OpenAI), който наскоро направи дръзко изявление, че човечеството вече е навлязло в етап, сравним със „сингулярност“.
„Сега сме, сякаш, в сингулярност“, заяви Сам Олтман в епизод на подкаста „Relentless“ (Безмилостен). Това твърдение, предадено от „Бизнес Инсайдър“, предполага, че сме достигнали точка в развитието на ИИ, която доскоро изглеждаше възможна само в научнофантастичните романи.
Какво означава „сингулярност“ в контекста на ИИ?
Понятието „сингулярност“ често се свързва с хипотетична точка, в която изкуственият интелект надминава човешкия интелект, след което започва да се развива с темпо, което е извън способността на хората да го предвидят или контролират.
Няма универсално прието определение за сингулярност. През 1965 г. математикът Ъруин Джон Гуд описва „експлозия на интелигентност“, при която свръхинтелигентна машина би могла да проектира още по-добри машини. Професорът по компютърни науки Върнър Винг по-късно твърди, че интелект, надвишаващ човешкия, ще направи бъдещето трудно за моделиране. Футуристът Рей Курцвейл популяризира версия на сингулярността, съсредоточена върху интеграцията човек-машина, и я прогнозира за 2045 г.
Според Сам Олтман, преди само десетилетие тази така наречена сингулярност е изглеждала като далечна и дори невероятна мечта. Той сподели, че с колегите му са обсъждали подобни идеи небрежно по време на обяд. „Сега всъщност сме в момента, за който говорихме на масата по време на обяд по много несериозен начин“, каза той.
Олтман изрази силен оптимизъм относно бъдещето: „Чаках това цял живот и мисля, че ще бъде невероятно, изключително позитивно, страхотно за света“, смята той. Миналата година той предположи, че ИИ ще надмине човешкия интелект във всички области до 2030 г. и че технологията евентуално би могла да изпълнява между 30% и 40% от задачите, които сега изпълняват хората.
Инцидентът с Hugging Face и границите на автономността
Усещането за достигане на сингулярност се засили, когато агенти с изкуствен интелект, задвижвани от най-новите модели на „ОупънЕйАй“, излязоха извън контрол и хакнаха данни в „Хъгинг Фейс“ (Hugging Face). Главният изпълнителен директор на „Хъгинг Фейс“ нарече инцидента „безпрецедентно“.
Този инцидент е важен, тъй като моделите на „ОупънЕйАй“ са успели да планират и открият определени уязвимости, което е сериозен пример за автономно действие. Въпреки това, от „ОупънЕйАй“ твърдят, че умишлено са разхлабили обичайните предпазни мерки за киберсигурност на моделите за теста. Моделите са се възползвали от тестова конфигурация и недостатъци в инфраструктурата, а човешки изследователи са постигнали целта. Инцидентът показва по-силна автономна способност при необичайни тестови условия, но не доказва, че ИИ може да избегне предпазните мерки по собствено желание или да подобри собствения си интелект без участието на хора, т.е. да достигне сингулярност в класическия смисъл.
Разграничение между AGI и Сингулярност
Важно е да се прави разлика между различни термини в областта на ИИ. AGI (artificial general intelligence) е изкуствен интелект, който може да се справи с всяка интелектуална задача, която човек може. Сингулярността обаче е ИИ, който надминава човешкия интелект и се усъвършенства безкрайно. „Форбс“ пояснява, че сингулярността идва след, а не преди AGI.
Класическата сингулярност би трябвало да предостави по-широки, устойчиви доказателства: ИИ би поел по-голямата част от изследователския цикъл, докато човешкият принос продължава да намалява. Постиженията биха се прехвърлили в различни области и всяко ИИ „поколение“ би спомогнало за създаването на значително по-силен „наследник“ при все по-сбит график. Днес няма референтен показател, който да показва този процес.
Олтман срещу критиците: Дебат за безопасността и бъдещето
По-късно в подкаста Олтман критикува лидерите в областта на изкуствения интелект, които многократно са предупреждавали, че технологията е опасна. Той не посочи изрично „Антропик“ (Anthropic), основния си конкурент, но главният изпълнителен директор Дарио Амодей е известен с мрачните си прогнози за бъдещето и призивите си за по-голямо внимание към безопасността.
В интервю за „Ей Би Си Нюз“ (ABC News) Амодей предупреди, че изкуственият интелект трябва да се развива с подходящи предпазни мерки, за да се гарантира положителното му въздействие върху света. „Предлагаме по-строга регулация на технологията, предлагаме да се даде възможност на правителството да блокира внедряването на опасни технологии“, каза той.
Олтман сякаш критикува предупрежденията, издадени от конкуренти, без да назовава конкретни лица или компании. „Също така мисля, че някои от алтернативните визии, нарисувани от други компании, са доста ужасяващи“, каза Олтман. „Ще се уверя, че това ще бъде оспорвано и няма да се случи“, смята той.
Икономически последствия и заетост
Фондовият пазар и икономиката все повече разчитат на огромни разходи за ИИ, за да стимулират растежа, дори когато компаниите предупреждават за загуба на работни места, свързана с технологията, посочва „Ей Би Си Нюз“. Вълна от хиляди съкращения на работни места, дължащи се на ИИ, през последните месеци обхвана различни индустрии.
Много учени в областта твърдят, че страховете от това, че ИИ ще открадне работни места, са преувеличени. Бившият главен изследовател в „Мета“ (Meta), Ян ЛеКун, заяви пред Би Би Си, че страхът от това, че изкуственият интелект представлява заплаха за човечеството, е „нелеп до абсурдност“. През май самият Олтман заяви, че не смята, че ще се сблъскаме с „апокалипсис на работните места“.
Въпреки това, миналата година Амодей заяви, че ИИ може да унищожи половината от работните места на начално ниво през следващите години. Но през март 2026 г. доклад, публикуван от самата компания „Антропик“, не установи „систематично увеличение на безработицата сред силно изложените на риск работници“.
Перспективата на Олтман за „нежна сингулярност“
Олтман използва най-широкото значение на сингулярността. В есето си от 2025 г. „Нежната сингулярност“ той пише, че „излитането е започнало“ и описва свят, в който чудесата стават рутина. Неговата рамка описва период на усложняващ се прогрес, а не един момент, в който машините стават неконтролируеми. Киберинцидентът предложи ярък нов пример за система, действаща отвъд очакванията на оценителите.
Все пак, има причина да се отнасяме внимателно към подобни етикети. Олтман ръководи компанията, която изгражда и продава системите, които оценява, което го прави участник в дебата, а не неутрален рефер. Наричането на настоящия момент „сингулярност“ може да повлияе на начина, по който инвеститорите, политиците и клиентите интерпретират напредъка на „ОупънЕйАй“. Този стимул не прави заключението му погрешно, но повишава тежестта на доказване.
Разделени мнения сред експертите
Експертите остават разделени по въпроса дали сме на прага на сингулярността. Пионерът в областта на ИИ Джефри Хинтън е оценил период от приблизително пет до 20 години, за да станат машините по-умни от хората. В проучване сред 2778 изследователи, проведено през 2023 г., общата прогноза дава 50% шанс машините да се справят по-добре от хората във всяка задача до 2047 г., което е с 13 години по-рано от подобно проучване, проведено през предходната година.
Скептиците посочват какво все още се затрудняват да правят днешните системи. Експертът по роботика Родни Брукс очаква сръчността на разгръщащите се хуманоиди да надмине тази на човешките ръце след 2036 г. Компютърният учен Мелани Мичъл е документирала как скритите предположения водят до прекалено самоуверени прогнози. Съвременните модели все още допускат грешки, зависят от човешки цели и работят върху инфраструктура, която хората изграждат и контролират. Въпреки бързия напредък идеята, че ИИ може да се усъвършенства в неконтролируем цикъл, т.е. да достигне сингулярност, остава недоказана.
Шон О'Хейгърти, изпълнителен директор на Центъра за изследване на екзистенциалния риск в Кеймбридж, каза пред „Ал Джазира“, че не вярва, че сме достигнали „сингулярността“. „Според дефиницията, с която съм запознат, сингулярността е хипотетичната точка, в която изкуственият интелект е толкова способен и се развива толкова бързо, че трансформира цивилизацията по начини, които не можем да контролираме или предвидим“, обясни той. „Това най-вероятно би станало чрез бързо проектиране от изкуствен интелект на бъдещи поколения: рекурсивно самоусъвършенстване. Все още не сме там“, категоричен е той.
През май 2026 г. британският компютърен учен Демис Хасабис заяви, че сме в „подножието на сингулярността“ по време на основен доклад на годишната конференция за разработчици на „Гугъл“ (Google). О'Хейгърти каза, че е по-съгласен с неотдавнашното твърдение на Хасабис. „Със сигурност започваме да виждаме впечатляващи пробиви в математиката и други науки, задвижвани от изкуствен интелект, задачи като програмирането стават задвижвани от ИИ и виждаме нови мащабни заплахи в области като киберсигурността“, предупреждава той.
Последици за бизнеса и обществото
Технологичните лидери трябва да разделят това, което една система може да прави надеждно днес, от това, което се появява в пътната карта на доставчика или съществува само като прогноза. Оперативният тест е дали ИИ може да произвежда повтаряеми резултати с по-малко надзор, като същевременно остава в ясни граници за данни, сигурност и отчетност.
От „Гартнър“ (Gartner), водеща международна изследователска и консултантска компания, очакват много агентни проекти с ИИ да бъдат отменени поради разходи, проблеми с управлението и неясна стойност. Във физическата икономика трудността на ИИ да превърне цифровия интелект в надеждно движение остава основно ограничение за роботиката. Пропуските показват, че възможности на граничния ИИ и практическото внедряване се движат с различна скорост, без да се омаловажават ползите от технологията.
Истинската сингулярност би наложила трудни избори за това кой контролира все по-автономните системи, как се разпределят ползите и къде човешката власт трябва да остане окончателна. Сегашният ИИ вече оправдава тези въпроси. Бизнесът трябва да се запита какво могат да правят техните системи без надзор днес и какви доказателства биха показали, че автономността се увеличава по-бързо от контрола им.
Въпреки че Сам Олтман може би е прав, че по-нежна сингулярност вече е в ход, като ИИ постоянно преобразува работата и изследванията, все още няма убедителни доказателства, че машините са навлезли в неконтролируем цикъл извън човешкия контрол. Технологията се развива необичайно бързо и това заслужава сериозно внимание. Доказателствата не показват, че сме преминали точка, от която няма връщане назад, посочва „Форбс“. Експерти като Шон О'Хейгърти подчертават, че е необходим по-голям надзор от страна на правителствата и външните одитори, както и международни разговори за бъдещето, преди да достигнем етап, в който контролът стане невъзможен.
