Новые типы угроз на ИИ приложения и защита от них
Программный комитет ещё не принял решения по этому докладу
Целевая аудитория
Тезисы
В своём докладе Евгений рассмотрит новые виды атак на LLM приложения. Рассмотрим категоризацию атак, их применимость к чат-ботам с ИИ, а также техники мониторинга и защиты. Разберем, какие фреймворки и стандарты в отрасли появились для работы в области LLM Security, включая OWASP, Mitre, Databricks и другие. Обсудим, чем защита и выравнивание (alignment) Open Source моделей отличается от проприетарных. Сделаем обзор характеристик безопасности популярных LLM моделей. Слушатели получат обзор в области защиты ИИ приложений и чек-лист для вывода своих приложений в прод.
Имеет опыт работы в проектах Microsoft, Google и Сбер, где занимался внедрением сложных технологических решений в различные отрасли от финтеха до медицины. Выводил на рынок специализированные продукты для маркетплейсов AWS, PowerBI, Slack, и Atlassian. В настоящее время разрабатывает инновационные решения на базе LLM.
Raft
Видео
Другие доклады секции
ML и AI в производственных компаниях
