Можно ли решить проблему prompt injection?

Недавно я участвовал в вебинаре, посвящённом атаке prompt injection («инъецирование промта»). Вебинар организовала LangChain, в нём участвовали Виллем Пиенаар, Кодзин Осиба (Robust Intelligence), Джонатан Коэн и Кристофер Парисьен (Nvidia Research), а проводил его Харрисон Чейз.

Полную часовую запись вебинара можно посмотреть на Crowdcast.

Ниже я привёл двенадцатиминутную выдержку, где я знакомлю с понятием prompt injection, объясняю важность этой проблемы и говорю, почему, на мой взгляд, многие предлагаемые решения не будут эффективными.

Источник: Хабрахабр