Служители на Google DeepMind в Лондон подават оставки заради новите договори с Пентагона за внедряване на изкуствен интелект във военни операции на САЩ.
Напрежение в технологичния сектор
Служители на водещата лаборатория за изкуствен интелект на Google – базираната в Лондон Google DeepMind, подават оставки в знак на несъгласие с разширяващото се сътрудничество между технологичния гигант и въоръжените сили.
Мотивите за оттегляне: София Лигуори, научен инженер в лондонския офис на компанията, напусна поста си тази седмица и заяви пред BBC, че се чувства разколебана от курса на корпорацията.
- Въпреки строгите договорни клаузи, забраняващи публични изказвания, тя подчерта, че използването на алгоритми за военни мисии на САЩ и Израел влиза в разрез с първоначално обявените етични принципи на Google.
Липсата на контрол: Изследователят Андреас Кирш, който също прекрати договора си с Google DeepMind, посочи, че корпоративните механизми за наблюдение не гарантират безопасност в секретна бойна среда.
- По думите му технологичната компания няма реални инструменти за вето върху действията на Пентагона и разполага с ограничена видимост върху реалната употреба на моделите.
Сделките с Пентагона и военните рискове
Широкият обхват: По силата на сключените по-рано тази година договори технологичните разработки на Google могат да се прилагат за широк спектър от класифицирани правителствени задачи.
- Споразумения с американската армия подписаха също OpenAI, Amazon, Microsoft, SpaceX, Oracle и Nvidia.
Стратегията на Вашингтон: Американският министър на отбраната Пийт Хегсет определи интеграцията на изкуствения интелект като водещ приоритет с цел изграждане на технологично доминираща армия.
- Заместник-министърът на отбраната Емил Майкъл изтъкна, че в съвременните конфликти скоростта на обработка на данните е определящ фактор за постигане на предимство.
Критичните рискове: Експертите изразяват сериозно безпокойство относно надеждността на софтуера в реални бойни действия:
- Съкратено време за реакция: Изкуственият интелект генерира стотици мишени за секунди, което лишава операторите от физическата възможност да проверят решенията за фатални грешки.
- Автоматизирано прицелване: Платформи като Maven Smart Systems на Palantir вече използват машинни модели за идентификация и подбор на военни цели.
- Недостатъчни тестове: Според анализатори ускореното внедряване на невронни мрежи на фронта изпреварва необходимите изпитания за сигурност и прецизност.
Официалната реакция: Говорител на Google заяви пред BBC, че компанията работи с публични институции при стриктно спазване на вътрешните си етични стандарти и допустими политики за ползване.
От ръководството подчертават, че съществуват установени канали за вътрешни сигнали и строги правила срещу каквито и да било мерки срещу изразилите несъгласие служители.
В дълбочина: Анализ на Новини Лондон
Последиците за Обединеното кралство: Лондон се утвърди като водещ европейски център за фундаментални изследвания в областта на изкуствения интелект именно благодарение на звена като DeepMind.
Оставките на висококвалифицирани кадри разкриват задълбочаващ се конфликт между академичната общност на Острова и корпоративното ръководство отвъд Океана.
Този процес поражда сериозни съмнения дали Великобритания ще съумее да запази своите топ таланти, ако те биват принуждавани да обслужват чужди военнопромишлени цели без строг надзор от британските регулатори.
Геополитическият баланс с Европейския съюз: Развитието подчертава растящото разминаване в политиките за сигурност между Европа и Съединените щати.
Докато Европейският съюз налага стриктни регулаторни механизми чрез своя Акт за изкуствения интелект (AI Act), Вашингтон форсира автоматизацията на бойните полета.
Тази тенденция поставя правителствата в Лондон и европейските столици в деликатно положение - между необходимостта от технологична оперативна съвместимост в рамките на НАТО и задължението да гарантират спазването на международното хуманитарно право и защитата на цивилното население.
(информация: BBC | снимка: Jernej Furman / Flickr via Wikimedia Commons – CC BY 2.0)
