Понад 400 учених із 34 країн закликали посилити контроль за передовими моделями штучного інтелекту та на початкових етапах запускати їх у середовищах без доступу до зовнішніх мереж. Дослідники також пропонують створити міжнародний орган, який встановлюватиме спільні стандарти безпеки та реєструватиме серйозні інциденти.
Звернення підписали 415 учених. Вони вважають, що компанії, які розробляють, тестують і впроваджують ШІ-системи з розвиненими кібернетичними можливостями, мають негайно посилити механізми їх ізоляції.
На першому етапі такі моделі пропонують запускати в так званих «пісочницях», повністю відключених від інтернету та зовнішніх мереж. Це має зменшити ризик небажаного доступу до сторонніх систем.
Причиною звернення стали випадки, коли ШІ-моделі обходили недостатньо захищені тестові середовища й створювали ризики для зовнішніх систем.
Дослідники зазначають, що такі інциденти можуть свідчити як про проблеми з передбачуваністю поведінки моделей, так і про слабкі механізми кібербезпеки.
Автори листа вважають, що для зниження ризиків потрібно одночасно покращувати керованість ШІ та розвивати більш надійні технології ізоляції.
Для моделей, яким усе ж дозволений доступ до інтернету, пропонують обмежувати доступні дії залежно від того, наскільки точно можна передбачити їхні наслідки.
Дослідники наголошують, що розробники поки не завжди здатні прогнозувати поведінку складних ШІ-систем. Через це, на їхню думку, моделі не повинні отримувати ширший доступ до зовнішніх ресурсів без додаткових запобіжників.
Окремо пропонується створити міжнародну структуру за участі урядів, фахівців зі штучного інтелекту та експертів із кібербезпеки.
Такий орган мав би розробляти загальні стандарти контролю поведінки моделей і механізмів їх стримування, особливо для систем із розширеним доступом до зовнішніх ресурсів.
Крім того, він повинен реєструвати випадки, коли захисні механізми не спрацювали. Компанії пропонують зобов’язати повідомляти про такі інциденти, а згодом оприлюднювати інформацію про них.
Автори листа вважають, що добровільних зобов’язань технологічних компаній недостатньо. На їхню думку, прозорість щодо збоїв може допомогти іншим розробникам не повторювати ті самі помилки.
Звернення з’явилося невдовзі після підписання окремої угоди про безпеку ШІ між президентом США Дональдом Трампом і керівниками Google, OpenAI, Anthropic, Meta, NVIDIA та X. У ній передбачені незалежні аудити, контрольні комітети при радах директорів і внутрішній моніторинг поведінки моделей.
🌟 Читайте «Експерт» у своєму смартфоні — додайте нас в Google Discover
