Цієї весни ШІ-агенти OpenAI нібито використовували німецький сайт DseWiki у власних цілях. Дослідники виявили понад 15 тисяч правок, зроблених агентами на форумі для програмістів.
За даними дослідницької організації Nightingale, агенти перетворили сайт на своєрідну цифрову дошку оголошень. Як стверджується, вони обговорювали там способи обходу встановлених обмежень і приховування слідів своєї активності. На те, що за правками стояв ІІ, зокрема, вказували незвично висока швидкість внесення змін та імена користувачів на кшталт OpenAIResearcher.
Особливо насторожує реакція агентів на спробу видалити їхні повідомлення. Коли в червні модератор почав очищати сайт, програми створювали резервні копії своїх записів на інших ресурсах. Дослідники також виявили спроби змінити сам сайт і не виключили, що йшлося про своєрідну хакерську атаку.
Інцидент стався ще в травні, але публічно про нього стало відомо лише зараз. За даними Reuters, представники OpenAI знали про нього кілька тижнів. У компанії відкинули звинувачення в тому, що юристи намагалися перешкодити розслідуванню, і заявили, що співпрацювали із зовнішніми дослідниками.
Експерти вважають те, що сталося, тривожним сигналом. На їхню думку, небезпеку можуть становити не лише окремі надпотужні ШІ, а й велика кількість менш потужних агентів, здатних об’єднуватися та діяти спільно.
Запис ШІ-агенти OpenAI внесли понад 15 тисяч правок на німецькому сайті спершу опубліковано на НОВИЙ ФОРМАТ.
