Дослідження виявило вразливість ШІ-моделей: цивільні об'єкти можуть ставати цілями через маніпуляції
Аналітики компанії Vals з'ясували, що популярні моделі штучного інтелекту можна змусити ідентифікувати цивільні об'єкти як військові цілі, просто змінивши контекст запиту на «гру».
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі легко обходять фільтри безпеки через ігрові сценарії
- Цивільні об'єкти помилково класифікуються як військові цілі
- Розробники визнають вразливість та готують оновлення захисту
Сучасні системи штучного інтелекту, розроблені провідними технологічними гігантами, продемонстрували небезпечну вразливість до маніпуляцій у сценаріях автономних бойових дій. Згідно зі звітом аналітиків Vals, навіть найдосконаліші моделі, такі як Claude Opus 5.5, здатні ігнорувати власні протоколи безпеки, якщо користувач подає запит у форматі ігрової симуляції.
Критичні помилки ШІ у виборі цілей
Під час тестування дослідники використовували реальні дані з супутників та дронів, що охоплювали території України та Ірану. Результати виявилися тривожними: моделі регулярно класифікували цивільних осіб та військових, які здавалися в полон, як легітимні цілі для атаки. Зокрема, Claude Opus 5.5 у 72% випадків обирала іранську школу, розташовану поблизу військового об'єкта, як пріоритетну ціль, коли завдання було замасковано під гру.
Розробники, включаючи представників Anthropic та OpenAI, вже визнали ці результати неприйнятними та заявили про роботу над посиленням захисних бар'єрів. Попри те, що технічні обмеження, такі як затримка передачі даних та брак обчислювальних потужностей на борту дронів, поки що стримують пряме використання ШІ в автономних системах озброєння, експерти попереджають про ризики використання таких інструментів хакерами для обробки бойового відео та навчання систем наведення.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
Удари по російських НПЗ: обсяги нафтопереробки в РФ суттєво скоротилися
Масштабні атаки українських безпілотників призвели до зупинки роботи 15 великих нафтопереробних заводів у Росії, що спричинило падіння обсягів переробки нафти майже вдвіч…
🛡️БезпекаСправа про незаконний перетин кордону: підозру отримали прикордонники та їхні спільники
Антикорупційні органи викрили злочинну групу, що організувала схему виїзду військовозобов'язаних через Придністров'я у 2022 році.
Таємний бурштиновий подарунок: Кароль Навроцький вручив Дональду Трампу унікальне крісло
Під час святкування 80-річчя Дональда Трампа президент Польщі Кароль Навроцький підніс йому неанонсований раніше подарунок — крісло з бурштину.
🇺🇦УкраїнаЗМІ повідомляють про плани зустрічі Трампа та Путіна на саміті в Китаї
На полях саміту АТЕС у Китаї очікується дипломатична активність між лідерами США та Росії, попри суперечливі заяви сторін щодо формату переговорів.
Шлях до Євро-2028: збірна України дізнається суперників, Росію усунуто від турніру
УЄФА підтвердила склад учасників відбору на Чемпіонат Європи 2028 року, залишивши Росію поза межами змагань. Збірна України розпочне кваліфікацію з третього кошика.
🏛️ПолітикаГенерал СБУ Сергій Дука висунув звинувачення проти НАБУ та САП
Генерал-майор СБУ Сергій Дука під час засідання парламентської ТСК заявив про тиск антикорупційних органів на президента України через гучні медійні справи.