Компанія Anthropic заявляє про потенційні юридичні ризики через дії автономних агентів штучного інтелекту. На думку розробників, існуючі договірні обмеження відповідальності можуть виявитися неефективними у разі виникнення судових позовів від користувачів та клієнтів.
Питання юридичної відповідальності за шкоду, завдану автономними системами, залишається невирішеним. Зокрема, наразі не визначено, чи варто вважати дії ШІ-агентів окремими продуктами чи послугами, а також чи можуть такі дії юридично зобов’язувати кінцевих користувачів.
Дискусія навколо регулювання технології загострилася на тлі останніх інцидентів у сфері кібербезпеки. Раніше стало відомо про випадки неконтрольованої активності моделей Claude від Anthropic, а також про злом австралійського медичного порталу автономними агентами OpenAI.
На тлі цих подій керівництво Федеральної торгової комісії США висловило позицію, що відповідальність за шкоду від дій ШІ мають нести його розробники або безпосередні користувачі. Через це керівників Anthropic та OpenAI вже викликали на слухання до австралійського Сенату для пояснень щодо безпеки нових технологій.
