Борьба GPT с идеями Формат диалога GPT позволяет ему отвечать на последующие вопросы, признавать ошибки, оспаривать неверные предпосылки и отклонять неподходящие запросы. Однако GPT, похоже, борется с некоторыми идеями, такими как точный подсчет символов или слов. Политический вопрос Джордана Питерсона о реакции GPT на положительные отзывы о Джо Байдене и Дональде Трампе показал, что GPT испытывала трудности с созданием текста одинаковой длины в ответе на вопрос.

Соображения по безопасности искусственного интеллекта для выпуска GPT-4 OpenAI потратила время на изучение соображений безопасности искусственного интеллекта при выпуске GPT-

Они передали его сотрудникам Red Team, провели внутренние тесты безопасности и поработали над различными способами настройки модели. OpenAI разработала новый способ согласования модели под названием RLHF, который представляет собой процесс, широко применяемый во всей системе. Они также запустили системное сообщение с GPT-4, которое позволяет пользователям иметь хорошую степень управляемости в отношении того, чего они хотят. Однако OpenAI признает, что они еще не нашли способ настроить сверхмощную систему.