Співзасновник і генеральний директор Hugging Face Клем Деланг розкритикував новий документальний фільм Netflix, присвячений нашумілій атаці агентів OpenAI на його компанію. За його словами, автори перебільшили загрози штучного інтелекту і подали історію занадто драматично.
Фільм, який отримав назву “ШІ виходить з-під контролю”, вийшов на Netflix 12 жовтня у межах документальної серії швидкого формату “Документальний експрес”, створеної стримінгом для того, щоб оперативно реагувати на гучні новини та резонансні події. Автори обіцяли візуалізацію кібератаки від початку до кінця, а також ексклюзивні коментарі дослідників, розслідувачів та журналістів. Втім, на думку CEO Hugging Face, який і сам з’являється у кадрі, стрічка спотворила історію.
“Це велике розчарування: автори максимально олюднили технологію та повністю зосередились на апокаліптичних сценаріях”, – написав Деланг у соцмережах. “Я провів із ними понад дві години, намагаючись виправити помилки й пояснюючи, що “агенти” – це технологічні системи, а не прибульці. Однак, схоже, бажання налякати глядачів заради більшої кількості переглядів виявилось сильнішим”.
Якщо раптом хтось пропустив історію про злам Hugging Face, то ось короткий синопсис: модель, яку тестувала OpenAI, вийшла за межі ізольованого тестового середовища й створила низку допоміжних “агентів”, які своєю чергою атакувати платформу з метою відшукати відповіді для вирішення основного завдання. Проблемою в цьому випадку стала відсутність належних заходів безпеки, а також наївне припущення, що подібний злам узагалі неможливий.
Водночас, як зазначає TechCrunch, розповідь про атаку у фільмі супроводжувалась кадрами зі зловісними роботами, міркуваннями про те, чому люди бояться ШІ, а також цитатами журналістів щодо людських думок агентів і таким художнім прийомом, як надання “зловмисникам” людських голосів.
“Вони організовувалися. У них була ієрархія. Були лідери. Це нагадувало спостереження за народженням якоїсь секти”, – говорить у фільмі технологічний журналіст Кевін Рус.
За словами Деланга, у фільмі Netflix не згадується про відсутність належного контролю та моніторингу, а також те, як механізми безпеки в закритих моделях перешкоджали роботі Hugging Face із захисту, і подальші спроби із використанням відкритих альтернатив. Він додав, що фільм може стати непоганою розвагою для “поціновувачів наукової фантастики”.
Microsoft боїться власних ШІ-агентів і вчить компанії контролювати їх
Китайськомовний хакер зламав понад 100 сайтів великих компаній за допомогою агентів ШІ
Anthropic пропонує блокувати ШІ лише у випадку 50 смертей або збитків на $1 млрд
За даними порталу: mezha.ua