Воспользуйтесь превосходными знаниями и навыками GPT-4, а также его способностью обрабатывать большие тексты уже сейчас в своих веб-приложениях. Также известны некоторые минусы этой новой модели, выявленные моими собственными тестами.
Как мы все и ожидали после анонсов Microsoft на прошлой неделе, OpenAI выпустила на этой неделе свою новую большую языковую модель под названием GPT-4, которая на самом деле существует в различных вариантах. Да, все движется очень быстро; действительно, настолько быстро, что OpenAI уже развернула GPT-4 для программного доступа, используя конечную точку завершения чата своего API. Это означает, что мы, программисты, уже можем использовать его в ваших программах или, как я показываю в своих примерах, непосредственно в ваших веб-приложениях.
В официальной презентации GPT-4 OpenAI объяснила, что эта новая модель может решать сложные задачи с большей точностью, чем предыдущие модели, включая обычный ChatGPT, благодаря более широким общим знаниям и расширенным возможностям «рассуждения». Презентация также показала, что GPT-4 может обрабатывать блоки текста в 8 раз больше, чем те, которые принимает ChatGPT, и что он принимает не только ввод текста, но и изображения, которые он может понимать и описывать логическими способами.
Здесь я покажу вам, как использовать возможности обработки текста GPT-4 прямо на ваших веб-страницах с помощью ванильного JavaScript. И я поделюсь некоторыми интересными выводами, как с положительной, так и с отрицательной стороны.
Если вы хотите узнать больше об этой новой языковой модели, прежде чем углубляться в исходный код, посмотрите эту другую статью и вернитесь, чтобы повеселиться:
Практическое кодирование веб-приложений на основе GPT-4
Прямой способ использования GPT-4 в ваших веб-приложениях очень похож на то, что я показал вам в этой предыдущей статье, и сосредоточен на GPT-3.5-turbo, модели, лежащей в основе первой версии ChatGPT. :
Вот основной исходный код, в котором я прокомментировал такие примечания, как изменения относительно исходного кода, используемого для запуска gpt-3.5-turbo:
var processinput = function(textin){ fetch( `https://api.openai.com/v1/chat/completions`, //endpoint is the same! { body: JSON.stringify({ “model”: "gpt-4", //previously “gpt-3.5-turbo”, and this can in principle be other flavors of GPT-4 “messages”: [ {role: “system”, content: “You are the chatbot of a website called moleculARweb, which provides educational material for chemistry using commodity augmented reality. You answer questions about the website, about chemistry, science, etc.”}, {role: “user”, content: “What is the formula of acetic acid?”}, {role: “assistant”, content: “The formula of acetic acid is CH3COOH”}, {role: “user”, content: textin} ], “temperature”: 0.3, “max_tokens”: 6000, //before this was much more limited, for example 2000 tokens }), method: “POST”, headers: { “content-type”: “application/json”, Authorization: “Bearer “ + apikey, } }).then((response) => { console.log(response) //If you want to check the full response if (response.ok) { response.json().then((json) => { console.log(json); //If you want to check the response as JSON console.log(json.choices[0].message.content) //HERE'S THE CHATBOT'S RESPONSE }); } }); }
Как и в предыдущих сообщениях, где я объяснял, как вызывать API GPT-3 в JavaScript (например, здесь, здесь и здесь), я использую вызов fetch() который отправляет ключ API и тексты в движок через POST. Итак, ядро похоже на то, что вы можете видеть здесь:
Но вы видели, что для gpt-3.5-turbo и gpt-4 запросы ввода должны быть отформатированы особым образом, отличным от того, который используется в обычном GPT-3. звонки. Вы должны создать массив сообщений, содержащих информацию о «личности» чат-бота (роль «система») и примеры сообщений, которыми обмениваются пользователь и бот ( роль «пользователь» и «помощник»).
Рабочий пример и тесты на нем
Я улучшил свои более ранние инструкции для чат-бота, чтобы он отвечал конкретно о себе и обо мне, используя информацию, которую я предоставляю специально в программе. Вот пример разговора:
Интересные заметки, как положительные, так и отрицательные
Запустив этого нового чат-бота, я обнаружил, что он может эффективно читать и писать более длинные тексты (как вы видите в приведенных выше примерах); однако это происходит за счет скорости. Да, в моих тестах GPT-4 был несколько медленнее, чем GPT-3.5-turbo.
Кроме того, GPT-4 в 30 раз дороже, чем GPT-3.5-turbo, за токен: 6 центов против 0,2 цента за каждую 1к токенов.
GPT-4 может эффективно обрабатывать и создавать тексты большего размера, чем его предшественник GPT-3.5-turbo, но он несколько медленнее и намного дороже.
Предыдущие проекты с использованием языковых моделей
www.lucianoabriata.com Пишу и снимаю обо всем, что лежит в сфере моих широких интересов: природа, наука, технологии, программирование и т. д. Стать участником Medium , чтобы получить доступ ко всем его историям (партнерские ссылки платформы, за которые я получаю небольшой доход бесплатно для вас) и подписаться, чтобы получать мои новые истории по электронной почте. Чтобы проконсультироваться по поводу небольших вакансий, посетите мою страницу услуг здесь. Вы можете связаться со мной здесь.