Головний науковець компанії OpenAI Якуб Пахоцький заявив про необхідність добровільно пригальмувати темпи створення нових моделей штучного інтелекту. За його словами, технології розвиваються настільки швидко, що людство втрачає здатність їх повноцінно контролювати та розуміти можливі наслідки.
Сучасні системи ШІ вже здатні самостійно керувати комп’ютерами, виконувати дослідницькі завдання та співпрацювати як із людьми, так і з іншими алгоритмами. У найближчому майбутньому вони зможуть переймати процес самоудосконалення без участі людини, що вимагає безпрецедентних заходів безпеки та обережності від провідних лабораторій світу.
Побоювання Пахоцького поділяють й інші лідери галузі. Зокрема, керівник Anthropic Даріо Амодей раніше попереджав про ризики масового скорочення початкових робочих місць через поширення ШІ, тоді як технологічні гіганти продовжують змагатися у випуску дедалі потужніших систем.
На тлі цих процесів розробники змушені обмежувати доступ до новітніх розробок через загрози у сфері кібербезпеки. Наприклад, в OpenAI обмежили використання моделі GPT-6 Astra через її надто високі автономні можливості, а низка компаній впроваджують суворіші стандарти контролю перед презентацією нових продуктів.
