Большие языковые модели: уязвимость, которую не исправить?

👾 Большие языковые модели: уязвимость, которую не исправить?

На Международной конференции по машинному обучению ученые заявили, что в основе работы больших языковых моделей лежит фундаментальная уязвимость. Эта проблема настолько глубока, что делает их полную защиту от взломов практически невозможной. Исследователи уверены: последствия для безопасности этих технологий могут быть колоссальными.

> «Мы нашли брешь, которая ставит под сомнение безопасность всей технологии», — заявляют авторы исследования.

◾️ Конференция: Международная конференция по машинному обучению
◾️ Основная проблема: фундаментальная уязвимость в архитектуре LLM

Похоже, даже самые продвинутые ИИ не застрахованы от своих слабых мест. Сможем ли мы когда-нибудь спать спокойно?