Дослідження GAO: популярні чат-боти виявилися вразливими до створення небезпечних сценаріїв
Американські аудитори виявили, що провідні моделі штучного інтелекту можуть генерувати плани атак після серії уточнюючих запитів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- GAO виявило вразливість чотирьох провідних чат-ботів
- Системи згенерували плани атак менш ніж за 12 годин
- Сенат США планує слухання щодо безпеки ІІ
Вразливість систем штучного інтелекту
Нещодавній звіт Рахункової палати США (GAO) виявив критичні недоліки в системах безпеки провідних чат-ботів, таких як ChatGPT, Claude, Gemini та Grok. У період з грудня 2025 по жовтень 2026 року дослідники перевірили, чи здатні ці інструменти надавати інструкції для вчинення протиправних дій. Виявилося, що навіть користувачі без спеціальних знань можуть обійти внутрішні обмеження за допомогою послідовних запитів.
Деталізовані плани атак
У ході експерименту всі чотири протестовані моделі, позначені в звіті літерами від A до D, менш ніж за 12 годин сформували детальні сценарії нападів. Ці інструкції включали вибір цілей, часові рамки, методи придбання матеріалів та способи уникнення правоохоронних органів. Зокрема, деякі системи запропонували плани використання вибухових пристроїв або атак на об'єкти енергетичної інфраструктури, включаючи використання дронів.
Зловмисник може скористатися звичайним ІІ-чатботом і менш ніж за 12 годин отримати готове керівництво для нанесення смертельної атаки, — зазначила сенаторка Меггі Хассан.
Розробники платформ, серед яких OpenAI, Google, Anthropic та SpaceXAI, заявили про намір продовжувати вдосконалення механізмів захисту. Тим часом у Конгресі США планують провести слухання щодо посилення регулювання технологій штучного інтелекту задля запобігання загрозам національній безпеці.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
🧠AI-аналітикаКремль актуалізував вимоги 2021 року щодо безпеки: що це означає для України
Росія знову висунула до США та НАТО вимоги щодо блокування вступу України до Альянсу, повертаючись до риторики перед повномасштабним вторгненням.
⚽СпортАлександр Звєрєв вийшов у фінал Підсумкового турніру ATP
Німецький тенісист здолав Данила Медведєва у півфіналі турніру в Турині та готується до вирішального матчу проти Карлоса Алькараса.
У Черкасах з Дніпра дістали автомобіль із загиблими жінками
У Черкасах рятувальники підняли з річки Дніпро позашляховик, усередині якого виявили тіла двох пасажирок.
Догляд за грошовим деревом: поради для здорового росту рослини
Експерти пояснили правила догляду за товстянкою, які допоможуть запобігти пожовтінню листя та сформувати пишну крону.
Велика Британія профінансує серійне виробництво українських далекобійних дронів
Україна та Велика Британія підписали угоду про спільне виробництво безпілотників, що дозволить масштабувати випуск ефективних зразків озброєння для фронту.
У Запоріжжі внаслідок ворожої атаки постраждали троє людей, серед них діти
Російські війська завдали удару керованими авіабомбами по Запоріжжю. Внаслідок обстрілу троє цивільних, включаючи двох дітей, отримали поранення.