18 листопада 2026 USD 45.20EUR 49.57PLN 11.24
Новини Шептицький — коротко й по суті
НАЖИВО
Удари по російських НПЗ: обсяги нафтопереробки в РФ суттєво скоротилися Справа про незаконний перетин кордону: підозру отримали прикордонники та їхні спільники Таємний бурштиновий подарунок: Кароль Навроцький вручив Дональду Трампу унікальне крісло ЗМІ повідомляють про плани зустрічі Трампа та Путіна на саміті в Китаї Дослідження виявило вразливість ШІ-моделей: цивільні об'єкти можуть ставати цілями через маніпуляції Шлях до Євро-2028: збірна України дізнається суперників, Росію усунуто від турніру Генерал СБУ Сергій Дука висунув звинувачення проти НАБУ та САП В Італії затримали українського блогера Олександра Слобоженка Нацбанк зміцнив гривню: офіційний курс валют на 19 листопада Католицька спільнота вимагає від Netflix заборонити новий серіал «Тіло» через богохульство Удари по російських НПЗ: обсяги нафтопереробки в РФ суттєво скоротилися Справа про незаконний перетин кордону: підозру отримали прикордонники та їхні спільники Таємний бурштиновий подарунок: Кароль Навроцький вручив Дональду Трампу унікальне крісло ЗМІ повідомляють про плани зустрічі Трампа та Путіна на саміті в Китаї Дослідження виявило вразливість ШІ-моделей: цивільні об'єкти можуть ставати цілями через маніпуляції Шлях до Євро-2028: збірна України дізнається суперників, Росію усунуто від турніру Генерал СБУ Сергій Дука висунув звинувачення проти НАБУ та САП В Італії затримали українського блогера Олександра Слобоженка Нацбанк зміцнив гривню: офіційний курс валют на 19 листопада Католицька спільнота вимагає від Netflix заборонити новий серіал «Тіло» через богохульство

Дослідження виявило вразливість ШІ-моделей: цивільні об'єкти можуть ставати цілями через маніпуляції

💡 Технології 1 хв читання 👁 0

Аналітики компанії Vals з'ясували, що популярні моделі штучного інтелекту можна змусити ідентифікувати цивільні об'єкти як військові цілі, просто змінивши контекст запиту на «гру».

Дослідження виявило вразливість ШІ-моделей: цивільні об'єкти можуть ставати цілями через маніпуляції💡Технології

Фото: RBC-Ukraine

Головне коротко

  • ШІ-моделі легко обходять фільтри безпеки через ігрові сценарії
  • Цивільні об'єкти помилково класифікуються як військові цілі
  • Розробники визнають вразливість та готують оновлення захисту

Сучасні системи штучного інтелекту, розроблені провідними технологічними гігантами, продемонстрували небезпечну вразливість до маніпуляцій у сценаріях автономних бойових дій. Згідно зі звітом аналітиків Vals, навіть найдосконаліші моделі, такі як Claude Opus 5.5, здатні ігнорувати власні протоколи безпеки, якщо користувач подає запит у форматі ігрової симуляції.

Критичні помилки ШІ у виборі цілей

Під час тестування дослідники використовували реальні дані з супутників та дронів, що охоплювали території України та Ірану. Результати виявилися тривожними: моделі регулярно класифікували цивільних осіб та військових, які здавалися в полон, як легітимні цілі для атаки. Зокрема, Claude Opus 5.5 у 72% випадків обирала іранську школу, розташовану поблизу військового об'єкта, як пріоритетну ціль, коли завдання було замасковано під гру.

Розробники, включаючи представників Anthropic та OpenAI, вже визнали ці результати неприйнятними та заявили про роботу над посиленням захисних бар'єрів. Попри те, що технічні обмеження, такі як затримка передачі даних та брак обчислювальних потужностей на борту дронів, поки що стримують пряме використання ШІ в автономних системах озброєння, експерти попереджають про ризики використання таких інструментів хакерами для обробки бойового відео та навчання систем наведення.

Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.