У середині грудня Amazon Web Services (AWS) зіткнулася з 13-годинним перебоєм у роботі однієї зі своїх систем, яку використовують клієнти. Причиною став ШІ-інструмент для написання коду під назвою Kiro, якому інженери дозволили внести певні зміни. Автономний агент, діючи від імені користувачів, вирішив, що найкращим рішенням буде “видалити та відтворити середовище”, що призвело до збою.
Це не перший подібний інцидент. За даними внутрішнього звіту Amazon, це вже другий випадок за останні місяці, коли один із ШІ-інструментів компанії виявився в центрі порушення роботи сервісу. Представники Amazon наполягають, що це був “збіг, що були задіяні інструменти ШІ”, і що “та сама проблема могла б статися з будь-яким інструментом розробника або ручною дією”. У компанії стверджують, що в обох випадках мала місце “помилка користувача, а не ШІ”, що стосується контролю доступу, а не автономності штучного інтелекту. Грудневий інцидент був “дуже обмеженим”, торкнувшись лише одного сервісу в частинах материкового Китаю.
AWS активно розробляє та впроваджує ШІ-інструменти, включаючи “агентів”, здатних діяти самостійно на основі людських інструкцій, і прагне продавати цю технологію зовнішнім клієнтам. Однак такі інциденти підкреслюють ризик того, що початкові інструменти ШІ можуть працювати некоректно та викликати перебої. Після грудневого інциденту AWS ввела численні заходи безпеки, зокрема обов’язковий перегляд змін колегами та додаткове навчання персоналу. Попри це, деякі співробітники Amazon висловлюють скептицизм щодо корисності ШІ-інструментів у своїй роботі, хоча компанія встановила мету для 80% розробників використовувати ШІ для кодування щонайменше раз на тиждень.
