Британското социално министерство изпробва алгоритъм за машинно обучение, който подпомага избора на получатели на Universal Credit за целеви ревизии в страната.
Постоянният секретар на Министерството на труда и пенсиите (DWP) дейм Сара Хили информира писмено парламентарната Комисия по публични сметки (PAC), че ведомството провежда ограничен реален тест на новата технология.
Системата анализира данни и ориентира служителите кои досиета да включат в програмата за целеви проверки (Targeted Case Reviews), обхващаща над един милион случая годишно.
Детайлите: Правителствената инициатива срещу измамите и административните грешки вече е спестила на данъкоплатците 1,7 млрд. паунда от неправомерни плащания. Основните параметри на процеса включват:
Строг човешки надзор: Дейм Сара Хили подчертава, че алгоритъмът няма правомощия самостоятелно да стартира проверка, да променя размера на сумите, нито да спира или прекратява изплащането на средства. Окончателната преценка остава изцяло в ръцете на щатен служител.
Засекретени критерии: Точните индикатори, по които моделът маркира определени профили като рискови, остават поверителни с цел защита на сигурността на социалната система.
Ниска разкриваемост: Проучване на Лабораторията за административна справедливост (Administrative Fairness Lab) от по-рано през годината установява, че едва 21% от извършените ревизии откриват реално разминаване в сумите. Това означава, че стотици хиляди граждани преминават през обстойни проверки без основание.
Опасения за дискриминация и психологически натиск
Реакцията: Преподавателят по право в Университета в Ливърпул и изследовател Марк Бенет определи въвеждането на машинно обучение като сериозна промяна със значителни рискове. Експертът постави под въпрос надеждността на базовите данни, с които се обучава софтуерът.
Предишният опит с AI: Опасенията на правозащитниците се базират на предходен опит с автоматизиран инструмент на министерството за проверка на авансови плащания по Universal Credit.
Въпросният алгоритъм непропорционално често насочваше за разследване възрастни граждани, хора с увреждания, лица с различен семеен статус и чуждестранни граждани.
Освен това докладът на изследователите показва, че много бенефициенти попадат под ударите на многократни инспекции през няколко месеца, което поражда тревожност и усещане за криминализиране сред коректните данъкоплатци.
От DWP уверяват, че тестът спазва всички стандарти за равнопоставеност, а при незадоволителни резултати ведомството ще потърси алтернативни подходи.
В дълбочина: Анализ на Новини Лондон
Защо е важно: Интегрирането на алгоритми в британската социална система засяга пряко стотици хиляди европейски граждани със статут на уседналост (Settled и Pre-settled status), включително голямата българска общност в Обединеното кралство, която ползва допълващи възнаграждението механизми като Universal Credit.
Липсата на прозрачност относно критериите за оценка и предходните данни за алгоритмично профилиране по националност създават реален риск чуждестранните работници с легален статут да попадат по-често в обхвата на машинните проверки.
Докато Европейският съюз наложи строги ограничения върху подобни софтуерни системи чрез своя Закон за изкуствения интелект (AI Act), класифицирайки оценката за достъп до публични помощи като високорискова дейност, Лондон залага на по-гъвкав вътрешен контрол в търсене на бюджетна ефективност.
Какво означава това за нас: За гражданите на ЕС във Великобритания това налага стриктна финансова дисциплина и прецизно документиране на всяка промяна в доходите или семейното положение. Най-големият щит срещу, всякакви проверки и ревизии, винаги е бил честността!
(информация: The Independent | Изображение: Авторска снимка © Novini London)









