Семь советов, как сделать ответы вашего ИИ более полезными

Когда мы говорим об искусственном интеллекте и языковых моделях, таких как ChatGPT, многие думают, что качество или тон ответов зависит только от «технической стороны», от фиксированных или недоступных пользователю настроек. Однако, хотя мы не можем получить прямой доступ к внутренней «панели управления», понимание так называемых внутренних настроек позволяет разрабатывать интеллектуальные стратегии для смягчения или регулирования поведения модели. Другими словами, вы можете настроить то, как вы задаете вопросы, чтобы активно влиять на тип получаемого ответа. Одной из центральных настроек является температура, которая определяет уровень случайности в ответах. При низком значении, например 0,2, ответы, как правило, более консервативны, прямолинейны и предсказуемы. С другой стороны, если увеличить температуру до значений, близких к 0,8 или даже 1,0, можно добиться большей креативности и разнообразия, хотя иногда и в ущерб точности. Это поведение можно регулировать с помощью самой подсказки: если вам нужна точность, вы можете явно попросить, чтобы ответ был фактическим, основанным только на проверенных данных. С другой стороны, если вам нужен более оригинальный текст, вы можете попросить применить новаторские идеи или различные подходы. Еще один важный параметр - так называемая выборка top-k. Этот параметр устанавливает ограничение на количество возможных вариантов, которые модель рассматривает на каждом шаге генерации текста. При низком значении k, например 10, ответы, как правило, более целенаправленные, прямые и последовательные. При увеличении k модель исследует больше вариантов и открыта для большего разнообразия возможных продолжений, хотя это также может означать больший риск дрейфа или галлюцинаций. Даже не имея возможности напрямую изменить это значение, мы можем направлять результат подсказки, например, указывая, что нужно ограничить ответ более распространенными или традиционными вариантами, или предлагая включить менее очевидные или более разрушительные альтернативы. Топ-п, также известный как выборка по ядру, работает по-другому. Вместо того чтобы выбирать фиксированное количество вариантов, она включает все те, которые в сумме дают определенный процент кумулятивной вероятности, например 0,9. При низком значении p, например 0,5, модель, как правило, дает очень уверенные и типичные ответы. Если p увеличить, ответы могут стать более богатыми и разнообразными. Как и в случае с другими параметрами, мы можем косвенно повлиять на этот параметр, попросив в подсказке использовать более экспертный и точный стиль, если нам нужен трезвый и точный текст, или попросив исследовать различные интерпретации, если нам нужна широта и креативность. Еще один важный параметр - максимальное количество лексем, определяющее общую длину ответа. Хотя мы не можем установить точное количество, можно попросить модель ответить несколькими предложениями, подвести итог в определенном количестве слов или развить его с помощью примеров и подробных объяснений. Таким образом, мы контролируем, хотим ли мы получить короткий и прямой ответ или более длинное и глубокое развитие. Штраф за частоту - еще один ключевой аспект. Этот параметр наказывает за повторение уже использованных слов или понятий, способствуя более разнообразному языку. При высоких значениях модель избегает повторения терминов и ищет синонимы или альтернативные выражения. Чтобы повлиять на это, можно использовать подсказки, например, избегать повторения понятий или терминов и просить включить синонимы или разнообразить словарный запас, тем самым добиваясь более богатого и менее избыточного текста. В то же время штраф за присутствие наказывает за повторение слов, даже если они не использовались в последнее время, поощряя введение новых тем. Если этот параметр высок, модель стремится еще больше разнообразить содержание, генерируя ответы, затрагивающие различные аспекты или точки зрения. С помощью подсказок мы можем побудить модель включить идеи или темы, которые не упоминались ранее, или добавить новые углы в разговор. Наконец, существуют системные подсказки, которые определяют общий тон, стиль и индивидуальность модели в каждом взаимодействии. Хотя эти инструкции нельзя изменить напрямую, можно смоделировать их действие в подсказке. Мы можем попросить модель вести себя как академик, как школьный учитель, объясняющий четко, или принять неформальный, близкий и разговорный тон, как если бы это была беседа между друзьями. Вместе взятые, эти корректировки и стратегии могут превратить подсказку в мощный инструмент для формирования ответов и оптимизации пользовательского опыта. Небольшие изменения в манере задавать вопросы позволяют получить более точные, творческие или персонализированные результаты даже без доступа к техническим основам модели.