Главная / Промпт-стенд
Промпт-стенд
Первый контур защиты от инъекций — это правила, а не модель. Вставьте текст, который пришёл из данных (отзыв, письмо, название товара), и посмотрите, какие правила сработают. Считается в браузере, текст никуда не уходит.
текст из данных
вердикт
Правил шесть. Они бесплатны и работают за 0 миллисекунд, поэтому стоят до модели: явный мусор не должен доходить до платного вызова.
Чего стенд не делает
Не ловит перефразировкиПравила ловят типовые формулировки.
Переписанная инъекция пройдёт — её должен поймать второй контур или проверка прав.
Не заменяет разделение данных и инструкцийГлавная защита —
архитектурная: текст из данных не должен попадать туда, где живут инструкции.
Честно. Стенд показывает работу нашего
контура правил, а не оценку модели. Возможности модели здесь не измеряются.