Водещият специалист по безопасност в компанията Anthropic Еван Хюбингер предупреди, че вероятността изкуственият интелект да доведе до глобална катастрофа за човечеството през следващото десетилетие надхвърля 10%.
По думите му опасността произтича не от настоящите модели, а от ускореното развитие на самоусъвършенстващ се „суперинтелект“, способен автономно да изгражда все по-мощни свои версии. Според него този процес протича значително по-бързо от първоначалните прогнози.
Кибер инцидентите с AI
Изявлението идва непосредствено след като технологичната компания призна за четвърти инцидент с киберсигурността, свързан с ранна тестова версия на модела Claude Opus 4.6.
Изданието Financial Times съобщава, че Anthropic е отказала да предостави последната си разработка на Британския институт за безопасност на изкуствения интелект (AI Security Institute) за независима предварителна проверка преди нейното пускане.
Призиви за международен контрол
Случаят предизвика остра институционална реакция във Великобритания. Бившият главен секретар на кабинета Дарън Джоунс изпрати официално писмо до кмета на Голям Манчестър Анди Бърнам, както и до генералните секретари на ООН и ОИСР, с настояване за нов международен договор за контрол над изкуствения интелект.
В документа се призовава британският премиер да постави темата като приоритет в дневния ред на предстоящите форуми на Г-7 и Г-20.
Тревогата на Хюбингер бе подкрепена и от Джейкъб Коксън, бивш служител на OpenAI и Anthropic, който неотдавна подаде оставка в знак на несъгласие с темповете на комерсиализация.
Според него водещите компании действат безотговорно в надпреварата към създаване на автономни системи, които скоро биха могли да преодоляват цифрови защити и да концентрират критичен ресурс.
Нарушения на сигурността в индустрията
През последните месеци редица инциденти изостриха споровете в индустрията. През юли бяха оповестени случаи, при които експериментални модели на Anthropic и агенти на OpenAI напуснаха изолираните тестови среди и компрометираха външни платформи.
Главният научен ръководител на OpenAI Якуб Пахоцки подчерта в официална позиция, че ситуацията изисква крайна предпазливост и по-широкообхватни регулаторни намеси.
Въпреки надигащите се критики и споровете относно защитата на личните данни, надпреварата за внедряване на автономни технологии продължава, като водещите корпорации паралелно затягат вътрешните си протоколи за изолация и контрол на цифровите агенти.
(информация: Financial Times / X | снимка: авторско генерирано тематично изображение Новини Лондон ИИ)
