суббота, 18 марта 2023 г.

Педагогический промт-инжиниринг. Ч.3. Конкретные примеры. Стандартные промты актуальные для педагога

 

Напомним, что согласно 1 и 2 части данной статьи промты-подсказки можно классифицировать по 2 рядам  оснований:

Классификация промтов по педагогической задаче (см. ч.1):

  • Промты для разработки учебных материалов
  • Промты для проверки работ учащихся
  • Промты для исследований и профессионального развития учителя

Классификация промтов по степени сложности (см. ч.2):

  • Стандартные простые
  • С инструкциями, шаблонами, ролевыми подходами, пошаговыми инструкциями
  • Более сложные конфигурации, в том числе перспективные разработки

Ниже привожу собранные в таблицы промты-запросы из разных источников.


Стандартные промты (вопрос- ответ)

Табл. 1. Промты для разработки учебных материалов из «Подсказки ChatGPT для учителей: раскрытие потенциала ИИ в образовании» https://www.learnprompt.org/chat-gpt-prompts-for-teachers/


На русском

На английском

приведите примеры [тема] для учащихся [уровень]

Provide examples of [topic] for [grade level] students

объясните ключевые понятия [темы] простым языком.

Explain the key concepts of [topic] in simple language

предложите задания, связанные с [темой], для учащихся [уровень]

Provide activities related to [topic] for [grade level] students

Предоставьте краткое изложение [тема]

Provide a summary of [topic]

Создайте викторину с [числом] вопросов по [теме]

Create a quiz with [number] questions on [topic]

Создайте викторину с несколькими вариантами ответов с [числом] вопросов по [теме]

Generate a multiple choice quiz with [number] questions on [topic]

Создайте викторину "Правда или ложь" с [числом] вопросов по [теме]

Create a true or false quiz with [number] questions on [topic]

Создать тест с заполнением полей с [числом] вопросов по [теме]

Generate a fill-in-the-blank quiz with [number] questions on [topic]


Табл. 2. Из 50 подсказок ChatGPT для учителей https://www.learnersedge.com/blog/50-chat-gpt-prompts-for-teachers 24_02_23 и 100 советов учителям задать ChatGPT https://alicekeeler.com/2023/03/09/100-prompts-for-teachers-to-ask-chatgpt/ 09_03_23

На русском

На английском

Создание заданий, задач, вопросов, шаблонов, образцов, презентаций

Напишите открытые вопросы: «Дайте мне 10 вопросов-подсказок, чтобы оценить понимание учащимися адаптации животных».

Write open-ended questions: “Give me 10 question prompts to assess students’ understanding of animal adaptations."

Напишите вопросы с несколькими вариантами ответов: «Предоставьте 10 вопросов с несколькими вариантами ответов о периоде Реконструкции».

Write multiple-choice questions: “Provide 10 multiple choice questions about the period of Reconstruction.”

Мне нужны идеи для задания по истории об Американской революции. Можете ли вы предложить несколько?

I need some ideas for a history assignment on the American Revolution. Can you suggest some? Create assigned groups from a list of students

Создавайте вопросы на основе стенограммы видео: скопируйте стенограмму YouTube (или другого видео) и вставьте в ChatGPT. Попросите «Создать 5 вопросов с множественным выбором/заполнением пробелов/открытых вопросов из этой стенограммы».

Create questions based on a video transcript: Copy YouTube (or other video) transcript and paste into ChatGPT. Ask to “Generate 5 multiple choice/fill-in-the-blank/open-ended questions from this transcript.”

Сформулируйте цели  индивидуальной образовательной программы (IEP): «Основываясь на следующих способностях учащегося [вставьте здесь способности], дайте мне 5 конкретных и измеримых целей, над достижением которых учащийся должен работать».

Generate IEP (Individualized Education Program) goals: “Based on the following student abilities [insert abilities here], give me 5 specific and measurable goals for the student to work towards.”

Создайте набор практических задач: «Создайте набор практических задач для учащихся 3-го класса, изучающих алгебру для начинающих».

Generate a set of practice problems: “Create a set of practice problems for 3rd grade students learning beginner algebra.”

Создайте образцы письма, соответствующие критериям рубрики: «Создайте образцовое эссе о причинах Второй мировой войны, которое соответствует следующим критериям [вставить критерии]».

Generate writing samples aligned to rubric criteria: "Generate an exemplary essay on  the causes of World War II that meets the following criteria [paste criteria].”

Придумайте соответствующее возрасту объяснение: «Объясните лунное затмение восьмилетнему ребенку».

Generate an age-appropriate explanation: “Explain a lunar eclipse for an 8 year old.”

Разработка инструкций: «Напишите пошаговые инструкции по созданию напоминаний в Календаре Google».

Develop directions: “Write step-by-step directions for creating reminders in Google Calendar.”

Подготовьте презентацию в виде слайд-шоу: «Сделайте мне презентацию из 5 слайдов о влиянии изменения климата на сельское хозяйство».

Develop a slide show presentation: “Give me a 5 slide presentation about the effects of climate change on agriculture.”

Можете ли вы создать наглядную инфографику, обобщающую ключевые понятия [вставьте тему], чтобы мои студенты могли использовать ее в качестве учебного пособия?

Can you create a visual infographic that summarizes the key concepts in [insert topic] for my students to use as a study guide?

Можете ли вы создать набор карточек с важными словарными терминами, относящимися к [вставьте тему], чтобы мои ученики могли их просмотреть?

Can you create a set of flashcards that cover important vocabulary terms related to [insert topic] for my students to review?

Проектирование уроков

Спроектируйте весь урок: «Составьте план урока продолжительностью 1 час для ознакомления с круговоротом воды, подходящий для учащихся 4-х классов».

Design an entire lesson: “Create a 1 hour lesson plan for introducing the water cycle suitable for 4th graders.”

Разработайте план модуля: «Разработайте план модуля на 5 дней для обучения студентов древним цивилизациям, включая ацтеков, римлян, греков, китайцев и майя».

Design a unit outline: “Develop a 5 day unit plan outline for teaching students about ancient civilizations including Aztec, Roman, Greek, Chinese and Mayan.”

Напишите план урока по обучению системам уравнений. Напишите в стиле модели плана урока 5 E. Включите 8 математических практик. Включайте студентов в сотрудничество. Создайте 5 подсказок ДОК 3 для викторины на уроке.

Write a lesson plan about teaching systems of equations. Write in the style of the 5 E’s lesson plan model. Incorporate the 8 mathematical practices. Incorporate students collaborating. Create 5 DOK 3 prompts for a quiz on the lesson.

Можете ли вы порекомендовать какие-либо видео или мультимедийные ресурсы, которые были бы полезны для обучения [укажите тему]?

Can you recommend any videos or multimedia resources that would be useful for teaching [insert topic]?

Можете ли вы создать список реальных примеров или тематических исследований, относящихся к [вставьте тему], чтобы мои студенты могли изучить их?

Can you generate a list of real-world examples or case studies that relate to [insert topic] for my students to explore?

У меня есть список из 30 учеников моего класса. Можете ли вы разделить их на группы по 6 человек для групповых проектов?

I have a list of 30 students in my class. Can you divide them into groups of 6 for group projects? Create a curve based on test scores

Обработка документов, в том числе для создания учебных материалов

Извлечение ключевых слов из текста: «Дайте мне 5 ключевых слов из следующего фрагмента текста [вставить текст] и дайте определения для всех из них».

Extract keywords from a text: “Give me 5 key words from the following piece of text [paste text] and provide definitions for all of them.”

Превратите список фактов или статистических данных в викторину с несколькими вариантами ответов

Turn a list of facts or statistics into multiple-choice quizzes

Можете ли вы превратить этот список фактов о всемирной истории в викторину с несколькими вариантами ответов? [ваш список]

Can you turn this list of facts about world history into a multiple-choice quiz? [your list] Assignment ideas on a specific topic

Измените копию или сообщение электронной почты: «Перепишите этот текст, используя более точную, четкую и профессиональную формулировку».

Revise copy or email message: “Rewrite this text using more precise, clear and professional wording.”

Вставьте текст в ChatGPT, попросите исправить: «Исправьте этот фрагмент текста, чтобы он был более кратким (или простым, сложным или юмористическим)».

Paste text into ChatGPT, ask to revise: “Revise this piece of text to be more concise (or simple, complex, or humorous).”

Можете ли вы предложить некоторые изменения, которые можно внести в текст,   чтобы сделать его более доступным для читателей, испытывающих затруднения?

Can you suggest some modifications that can be made to the text in order to make it more accessible to struggling readers?

Какое творческое письменное задание мы могли бы дать, чтобы оценить понимание учащимися этой темы и их способность эффективно ее излагать?

What kind of creative writing assignment could we give to assess students’ understanding of this topic and their ability to communicate it effectively?

Как мы можем использовать экспертную оценку или самооценку для оценки понимания учащимися этого материала, а также их способности оценивать и улучшать свою собственную работу?

How can we use peer review or self-assessment to assess students’ understanding of this material, as well as their ability to evaluate and improve their own work?

Проверка работ учащихся

Предоставьте этому учащемуся советы о том, как улучшить его письмо [вставьте сюда ответ учащегося]

Provide this student with tips on how to improve their writing [paste student response here]

Ответьте на [вставьте сюда свободный ответ студента] Дополните «перепишите в дружелюбном тоне»

Respond to [paste student free response here]  Follow up with “rewrite in a friendly tone”

Можете ли вы оценить это эссе по истории и дать рекомендации по улучшению работы?

Can you grade this history essay and provide feedback on any areas for improvement?

Основываясь на ответе учащегося, можете ли вы определить что-то конкретное, что он сделал особенно хорошо, и высказать свое мнение по этому поводу?

Based on the student’s response, can you identify one specific thing that they did particularly well and provide feedback on it?

Можете ли вы предоставить обратную связь, в которой подчеркиваются как сильные, так и слабые стороны ответа учащегося, и даны ему конкретные предложения по улучшению?

Can you provide feedback that highlights both the strengths and weaknesses of the student’s response, and gives them specific suggestions for improvement?

Можете ли вы дать обратную связь, которая воодушевляет и мотивирует, но при этом помогает учащемуся определить области, в которых он может продолжать расти и развивать свои навыки?

Can you provide feedback that is encouraging and motivating, while still helping the student to recognize areas where they can continue to grow and develop their skills?

Мне нужно создать кривую оценивания для моего класса на основе результатов их тестов. Можете ли вы помочь?

I need to create a grading curve for my class based on their test scores. Can you help? Grade an assignment


четверг, 16 марта 2023 г.

Педагогический промт-инжиниринг. Ч.2 Теоретические положения и общие рекомендации

Теоретические положения об основах промта с LLM как таковыми

Для того, чтобы стать профессиональным промт-инженером, специалистом по работе с искусственным интеллектом, а это новая и весьма перспективная профессия, необходимо усвоить некоторую складывающуюся сейчас теорию «промтинга». Мы от этого пока весьма далеки, однако приведу здесь по материалам курса по «prompt engineering (PE)» (https://learnprompting.org/docs/intro - доступно для всех) несколько положений. Авторы этого курса различают:

  • Простые техники: инструктаж, ролевые промты, стандартные промты (вопрос-ответ, в том числе с примерами)
  • Промты промежуточного уровня: цепочки мыслей (метод побуждающий LLM объяснять свои рассуждения), цепочка мыслей Zero Shot (шаг за шагом), самосогласованность, предварительно сгенерированные знания, разбиение на подпроблемы («детские» стратегии),
  • Прикладные промты (стратегии, предложенные участниками сообщества), включая инструкцию по созданию собственного умного чат-бота.
  • Расширенные приложения. Это MRKL Systems 1 (Modular Reasoning, Knowledge and Language, произносится как «чудо»), например системы, которые объединяют LLM (нейронные сети) и внешние инструменты, такие как калькуляторы (символические вычисления), для решения сложных задач, языковые модели с программным обеспечением и тому подобные сложные системы. Про этой теме очень интересна статья о возможности интеграции  ChatGPT с Wolfram|Alpha https://writings.stephenwolfram.com/2023/01/wolframalpha-as-the-way-to-bring-computational-knowledge-superpowers-to-chatgpt/

Я думаю, что нам, обычным педагогам доступны методы и промты на основе первых двух групп. 

Общие рекомендации для сценариев бесед с ChatGPT

1. Язык общения с ChatGPT. Обычно советуют задавать промты и получать ответы на английском. Дескать на русском ответы получаются менее качественные и полные.  Однако в статье https://habr.com/ru/post/715492/ утверждается, что «запросы можно писать на русском (он хорошо понимает), а вот ответы просить давать на английском. Мы все же рекомендуем пользоваться английским. Из переводчиков лучше DeepL

2. О памяти чата. Текущая версия ChatGPT помнит что вы ей сообщили только на время сессии.  Если закрыли страницу, надо начинать все с нуля. Языковые модели (ЯМ) обладают ограниченным контекстом. Для ChatGPT это 4096 токенов (около 2-3 тысяч слов). За этой границей все сказанное в ходе сессии "забывается" моделью. Поэтому полезно периодически повторять базовый запрос или разбивать Ваш запрос на части. Если в ответ на Ваш запрос чат выдает слишком короткий текст, попросите уточнить или просто напишите: "продолжай", "продолжи с фразы ...последняя фраза в предыдущем блоке...", "продолжай и добавь примеры и так далее.

Несмотря на то, что некоторые сервисы, например, https://www.chatpdf.com  предлагают вводить для анализа большие тексты (до 200 стр. документа pdf) не стоит ждать на выходе достоверного ответа по всему тексту, так же как и достоверной аннотации. В лучшем случае – общие слова, в худшем Вас введут в заблуждение. Выхода 2: 1) разбивать текст для анализа  на куски примерно по 4000 токенов, а это примерно 3000 слов на английском, из которых около 750 надо оставить на ответ - то есть вводить не более 4-5 страниц. На русском это будет еще раза в 4-5 меньше, так как каждое слово шифруется большим количество токенов; 2) второй выход – ждать более производительной модели. Так, в GPT4 уже есть 2 версии: 1-я на 8000 токенов (вдвое больше), а вторая целых 32 в 8 раз больше, чем сейчас. Но обе версии платные, причем существенно дороже, чем модели на GPT3.    

3. О ложных утверждениях и решениях. ЯМ пока плохо понимают, когда они лгут: в них нет критика, который бы заставил их переосмыслить написанное. Именно для избежания этого применяются методы и промты-подсказки о которых пойдет речь далее. Наиболее простые и часто применяемые:

  • инструкция – добавление к вопросу подробной инструкции что и как нужно делать и в какой форме представить результат. При этом для борьбы с «самоуправством и забывчивостью» надо в каждый запрос добавлять примеры с правильным форматом. Не ленитесь писать для ИИ большое подробное ТЗ - чем больше деталей вы дадите тем точнее будет результат. Переносите в запрос буквально все, что для вас на первый взгляд кажется очевидным
  • ролевой подход — назначить роль ИИ. Например, ваше приглашение может начинаться со слов «Вы врач» или «Вы юрист», а затем просить ИИ ответить на какой-либо медицинский или юридический вопрос. При назначении роли ИИ мы даем ему некоторый контекст. Этот контекст помогает ИИ лучше понять вопрос. При лучшем понимании вопроса ИИ часто дает лучшие ответы. Роли можно менять, уточнять, задавать несколько ролей (См. статью Множественные личности ChatGPT https://habr.com/ru/company/alfa/blog/718138/, а также нашу интерпретацию для педагогических целей ниже)
  • пошаговые формулировки задачи и пошаговые проверки (цепочки мыслей и т.п. методы). Например, спросить ChatGPT верно ли утверждение, которое она сгенерировала,  после указания на ошибки попросить изменить ответ, пошаговое разбиение задачи с примерами выполнения подзадач и т.п.

4. Вот пример рекомендаций к постановке развернутого запроса:

  • Задать контекст в первом предложении. Точная тема даст вам более релевантные ответы.  Объясните ИИ кем он является.  Например: «Ты эксперт в здравоохранении. Ты помогаешь людям сбрасывать вес уже 20 лет».
  • Поставить ясную задачу после контекста.  Например: «Дай лучший совет, как сбросить вес. Без очевидных».
  • Распишите порядок, в котором её надо выполнить. Также кратко, сухо и по делу
  • Задайте ограничения. К примеру - не заменяйте слова в тексте, если меняется исходный смысл. Не переводите нецензурные выражения - оставь их на родном языке
  • Задайте формат вывода. К примеру - разбейте результат на абзацы длиной в 2-3 предложения без потери смысла
  • Завершать запрос вопросом. Чтобы убедиться, что вывод релевантен и полезен, задавайте конкретные вопросы. Например: «Учитывая всю информацию, можешь составить план силовых упражнений на неделю?».
  • Уточнять вопросы после ответа.  Например: «У меня болит спина и я могу тратить на упражнения не больше получаса в день».
  • Практиковаться. Любой гайд работает только с практикой. 
5. Подготавливайте заранее и правильно выстраивайте весь сценарий Вашей беседы с ChatGPT.  Если ответ явно неполный, например, попросили 10 задач, а получили 5, Вы можете просто сказать «напишите еще 5» в поле подсказки ниже, чтобы продолжить наращивание вывода. Или «продолжай». Беседа с ChatGPT подкупает возможностью дальнейшего уточнения вывода. Ниже вывода можно дать отзыв или дополнительную информацию. Иногда ясно, что промт был не очень удачный и поэтому можно внести изменения. Используйте термины «переписать с…», «переписать и изменить…» или «добавить…» для настройки вывода. На английском: “rewrite with…” “rewrite and change…” or “add…”

Мы не будем здесь приводить методы и примеры обхода моральных ограничений ChatGPT. Предполагается, что педагогу этого не нужно. Надо помнить также, что ИИ лучше всего работает, когда инструкции написаны позитивно, а не говорят ему, что делать «нельзя». 

среда, 15 марта 2023 г.

Об альтернативе GPT и OpenAI

Очевидно, что по аналогии со Stable Diffusion разговорный ИИ выйдет на свободу только когда станет устанавливаться на пользовательские компы и там же файнтюниться. Наиболее близко к этому подошли после того, как в торрент были слиты коды от "Мета'вской" LLaMA. В этой статье от 13 марта дан срез последних достижений в этом направлении


"Теперь вы можете запустить модель искусственного интеллекта уровня GPT-3 на своем ноутбуке, телефоне и Raspberry Pi"

См. мои новости по теме в группе ВКонтакте https://vk.com/elearningai 

Педагогический промт-инжиниринг. Ч.1 Зачем педагогу разговаривать с ИИ?

 Предлагаю для предварительного обсуждения свою статью-компиляцию, предположительно, из 5 частей, которые буду публиковать с разницей в 1-2 дня.

Сразу отвечаем на вопрос, вынесенный в заглавие 1-й части: на наш взгляд по 3-м причинам-мотивациям:

  1. Если он хочет узнать что-то новое в смежных со своей дисциплиной областях, делает обзор литературы по теме, самообучается
  2. Если он создает свои учебно-методические материалы по дисциплине к отдельному уроку или к курсу по дисциплине в целом: учебное пособие, прочие текстово-графические материалы, презентации, тесты и задания, разного рода наглядности, онлайн-курс
  3. Если он хочет разнообразить свой учебный процесс: ввести в учебный класс элементы самообучения, самоконтроля, игровые моменты, а также получить помощь ИИ при проверке знаний, навыков своих учеников

Мы обсуждаем здесь так называемые генеративные нейросети или генеративный искусственный интеллект, базирующийся на больших языковых моделях (ЯМ или LLM). Задачи, решаемые конкретными нейросетями могут различаться: это сети, создающие изображение по текстовому запросу, их часто обозначают txt2img - сети. Сейчас начинают развиваться нейросети, создающие видео по текстовому описанию сценария, их, наверное, можно обозначить как txt2mov - сети. Наибольший хайп последнего времени это ChatGPT, который по текстовому запросу может выдать любой текстовый ответ, но также программный код, а умельцы получают и данные для визуализации.    Возможно, что будущее за так называемыми мультимодальными нейросетями. Исследователи считают, что мультимодальный ИИ, который объединяет различные режимы ввода (и вывода), такие как текст, аудио, изображения и видео, станет ключевым шагом к созданию универсального искусственного интеллекта (https://habr.com/ru/news/t/720188/). Это подтверждается тем, что только что вышедший GPT4 мультимодален – принимает на вход и картинки и текст.

Все рекомендации, промты-подсказки приведенные ниже апробированы авторами, на которых я ссылаюсь и в малой степени мною на следующих ресурсах:

Как получить к этим ресурсам доступ – это не тема данной работы. В частности, инструкции о регистрации ChatGPT в России см. здесь https://skillbox.ru/media/code/kak-poluchit-dostup-k-chatgpt-v-rossii-a-takzhe-belarusi-irane-i-vezde-gde-on-zakryt/

В процессе взаимодействия с ChatGPT возникают 2 вопроса, на которые мы попытаемся ответить в этой статье

  1. О чем может спросить преподаватель, чтобы получить небесполезный ответ
  2. Как нужно спросить ChatGPT, чтобы получить наиболее полезный ответ

На приземленном уровне с помощью генеративных моделей, умея подобрать к ним верный ключик, мы как педагоги можем:

  • Обрабатывать имеющийся иллюстративный материал и создавать свой, новый. Для этого используются генеративные модели txt2img Stable Diffusion, Midjourney и др. Но для формирования точного запроса порой привлекают и ChatGPT
  • Подобрать учебный материал для урока, лекции, занятия, презентации, глоссария. В том числе с помощью обработки учебной литературы.
  • Создать тестовые вопросы и задания как в непосредственном диалоге с ИИ, так и  из собственных текстов  
  • Сгенерировать примеры решений задач, кейсов, программного кода
  • Создавать таблицы, графики и прочую визуализацию
  • Создать и реализовать сценарий проверки знаний учащихся с помощью ИИ в компьютерном классе
  • Создавать сценарии для общения учеников с ChatGPT в формате персонализированного самообучения  
  • Автоматизировать проверку домашних заданий учащихся, в том числе на оригинальность и достоверность
  • Анализировать большие объемы информации

В подтверждении приведу мнение авторов статьи ChatGPT for Good? On Opportunities and Challenges of Large Language Models for Education Enkelejda Kasneci, Kathrin Sessler, Stefan Kuchemann & et January 2023 DOI:10.35542/osf.io/5er8f https://www.researchgate.net/publication/367541637_ChatGPT_for_Good_On_Opportunities_and_Challenges_of_Large_Language_Models_for_Education. Они выделяют следующие возможности использования LLS для преподавания:

  • Для персонализированного обучения. Учителя могут использовать большие языковые модели, чтобы создать материалы и условия для персонализации обучения своих учеников.
  • Для планирования уроков. Большие языковые модели также могут помочь учителям в создании (инклюзивных) планов уроков и мероприятий.
  • Для изучения   языка. Преподаватели   языковых классов могут использовать большие языковые модели в качестве вспомогательного средства.
  • Для исследовательской и письменной работы. Большие языковые модели могут помочь преподавателям университетских и школьных классов выполнять исследовательские и письменные задания (например, при работе на семинарах, написании рефератов и обратной связи со студентами)
  • Для профессионального развития большие языковые модели также могут помочь учителям, предоставляя им ресурсы, резюме и объяснения новых методик обучения, технологий и материалов.
  • Для оценки и анализа преподаватели могут использовать большие языковые модели для полуавтоматического оценивания работ учащихся, выделяя потенциальные сильные и слабые стороны работы, например, эссе, исследовательских работ и других письменных заданий.

Все перечисленные выше задачи на наш взгляд  можно сгруппировать в 3 направления задач для ИИ:

  1. Задачи разработки учебных материалов, включая обеспечивающие самостоятельную, персонализированную работу учащихся, учебные планы, планы уроков и т.п.  )позиции 1-7 первого и 1-4 второго списков)
  2. Проверка работ учащихся (позиции 8 и 6 в списках)
  3. Исследовательская и научная работа, профессиональное развитие преподавателя (позиции 9 и 4-5)

Почему нужно уметь разговаривать с ИИ на более доступном ему языке, с помощью так называемых промтов (подсказки, запросы), используя методы промт-инжиниринга  - «prompt engineering (PE)»? Ответов несколько. Если коротко и не влезать в излишнюю для нас теорию, то дело в том, что работа ИИ (LLM) носит вероятностный характер, а потому ИИ склонен к «фантазиям» или «галлюцинациям», т. е. к генерированию новой информации, потенциально ложной. Кроме того «оперативная память» диалога с человеком пока еще ограничена. Некоторая расшифровка этих утверждений будет приведена ниже.

Промт (подсказка, предложение, запрос) — это утверждение или вопрос, который дается ChatGPT для управления его выводом. Промт является отправной точкой для ответа ChatGPT, и его можно использовать для создания самых разнообразных выходных данных, таких как текст, диалог или творческое письмо. Итак, промт служит для того, чтобы дать ChatGPT конкретную задачу или вопрос для ответа, и его можно использовать для управления выводом.

Материал скомпонован на 3-х уровнях

  1. Теоретические положения об основах промта с LLM как таковыми
  2. Общие рекомендации для сценариев бесед с ChatGPT
  3. Конкретные примеры, актуальные для педагога


вторник, 14 марта 2023 г.

Две важные новости по ИИ: Стэндфордский чат Альпака и, конечно, Вышла GPT-4!

 Исследователи из Стэнфорда разработали новую модель искусственного интеллекта под названием Alpaca 7B, которая работает на том же уровне, что и ChatGPT от OpenAI. Исследователи достигли этого, обновив LLaMA Meta с использованием данных, сгенерированных GPT-3, что обошлось всего в 600 долларов и заняло 3 часа на точную настройку.

Это демонстрирует, что модели с открытым исходным кодом, такие как LLaMA, догоняют модели с закрытым исходным кодом, такие как OpenAI. Наличие моделей с открытым исходным кодом облегчает людям их обучение и оптимизацию для конкретных целей. Alpaca - это лишь один из многих проектов, созданных поверх LLaMA, а некоторые даже сделали его достаточно маленьким, чтобы работать на персональном ноутбуке.

О GPT4:
🔸 Модель мультимодальная (accepting image and text inputs, emitting text outputs).Теперь он умеет анализировать фото и видео, и многое другое
🔸 В течение 6 месяцев выравнивали модель инструкциями для лучшего вывода.
🔸 Подписчики ChatGPT Plus получат ограниченный доступ к GPT-4.
🔸 Для получения доступа к API нужно добавиться в waitlist (https://openai.com/waitlist/gpt-4).
🔸 Контекст модели 8,192 токенов.
🔸 Есть версия с контекстом 32,768 токенов (50 страниц текста).
🔸 Цена $0.06 за тыс. токенов.

Регулярнее новости я публикую на VK  в группе

E-learning & AI: новости и проблемы

Приходите к нам!

вторник, 7 марта 2023 г.

GPT4Moodle. ЧТО ДЕЛАТЬ БУДЕМ, КОЛЛЕГИ-E-Learning-исты?

 GPT4Moodle — это расширение браузера для Chrome, которое добавляет кнопки рядом с каждым вопросом в тестах Moodle. При нажатии кнопки ИИ отправляется запрос, и правильный ответ выделяется вместе с объяснением, почему он правильный.



Инсталляция:

  1. Клонируйте репозиторий на свой локальный компьютер, используяgit clone https://github.com/PrincTwilig/GPT4Moodle
  2. Откройте Chrome и перейдите на страницу расширений, набрав chrome://extensions/в адресной строке.
  3. Включите режим разработчика, щелкнув переключатель в правом верхнем углу страницы.
  4. Нажмите на кнопку «Загрузить распакованное» и выберите клонированную папку.
  5. Теперь расширение должно быть установлено и активировано.



ЧТО CHATGPT И ГЕНЕРАТИВНЫЙ ИИ ЗНАЧАТ ДЛЯ НАУКИ

Под таким названием Крис Стокел-Уокер, Ричард Ван Норден опубликовали в Nature 9 февраля небольшую заметку  Вот несколько полезных абзацев из нее:

Ученые говорят, что теперь они регулярно используют LLM не только для редактирования рукописей, но и для помощи в написании или проверке кода, а также для мозгового штурма идей. «Теперь я использую LLM каждый день, — говорит Хафстейн Эйнарссон, специалист по информатике из Исландского университета в Рейкьявике. Он начал с GPT-3, но с тех пор перешел на ChatGPT, который помогает ему писать слайды презентаций, студенческие экзамены и задачи курсовой работы, а также преобразовывать студенческие диссертации в статьи. «Многие люди используют его в качестве цифрового секретаря или помощника, — говорит он.
 ....
Некоторые исследователи считают, что LLM хорошо подходят для ускорения таких задач, как написание статей или грантов, если есть человеческий контроль. «Ученые больше не собираются сидеть и писать длинные предисловия к заявкам на гранты», — говорит Альмира Османович Тунстрём, нейробиолог из Сальгренской университетской больницы в Гётеборге, Швеция.

Далее довольно много неинтересных фраз про толерантность, опасность, авторское право и тп.

Вот еще из содержательного:
Можно ли устранить недостатки? (известные как "галлюцинации") 
...Некоторые инструменты поисковых систем, такие как Elicit, ориентированный на исследователей, обходят проблемы атрибуции LLM, используя их возможности сначала для направления запросов на соответствующую литературу, а затем для краткого обобщения каждого из веб-сайтов или документов, которые находят поисковые системы. вывод содержимого, на которое явно ссылаются (хотя LLM может по-прежнему неправильно суммировать каждый отдельный документ).
В конце декабря Google и DeepMind опубликовали препринт о клинически ориентированном LLM, который он назвал Med- PaLM7 . Инструмент мог отвечать на некоторые открытые медицинские вопросы почти так же хорошо, как и обычный врач-человек, хотя у него все еще были недостатки и ненадежность. 

Но значительно полезнее нам статья Грина и Пивидори, на которую в статье дана ссылка. Привожу  здесь ее перевод на русский и краткую аннотацию:
Авторы представляют новый инструмент редактирования с помощью ИИ. Рабочий процесс основан на инфраструктуре Manubot для научных публикаций [6], платформе, разработанной для реализации как индивидуальных, так и масштабных совместных проектов [7,8]. Наш рабочий процесс включает в себя разбор рукописи, использование большой языковой модели (ChatGPT) с подсказками по конкретным разделам, а затем генерирование набора предлагаемых изменений для включения в основной документ. Эти изменения представляются пользователю на рассмотрение через интерфейс GitHub. Чтобы оценить наш рабочий процесс, мы провели тематическое исследование с тремя рукописями, которые включали разделы различной сложности. Наши результаты показывают, что в большинстве случаев модели смогли сохранить первоначальный смысл текста, улучшить стиль написания и даже интерпретировать математические выражения. Наш рабочий процесс написания с помощью ИИ может быть включен в любую рукопись Manubot, и мы ожидаем, что он поможет авторам.
Приведены промты-подсказки для типовых разделов научной статьи и программное обеспечение, которое позволяет автоматизировать процесс создания и редактирования рукописи с помощью ChatGPT в среде Manubot
Когда пользователь запускает программу, рукопись разбирается по разделам, а затем по абзацам) и передается в языковую модель вместе с набором пользовательских подсказок-промтов. Затем модель возвращает отредактированную версию текста. Затем наш рабочий процесс использует API GitHub для создания нового запроса, позволяя пользователю просмотреть и изменить полученный результат, прежде чем объединить изменения с рукописью. Этот рабочий процесс приписывает текст либо пользователю-человеку, либо языковой модели ИИ, что может быть важно в свете возможных будущих юридических решений, которые изменят ландшафт авторского права на результаты генеративных моделей.
Для доступа к этим моделям мы использовали API OpenAl. Поскольку этот API влечет за собой расходы на каждый прогон, которые зависят от длины рукописи, мы реализовали рабочий процесс в GitHub Actions, который может быть запущен пользователем вручную. Наша реализация позволяет пользователям настраивать затраты в соответствии со своими потребностями, позволяя им выбирать конкретные разделы для пересмотра, а не всю рукопись. Кроме того, можно настроить несколько параметров модели, чтобы еще больше скорректировать затраты, например, версию языковой модели (включая Davinci и Curie, а также потенциально недавно опубликованные), степень риска модели или "качество" завершений. Например, при использовании моделей Davinci (наиболее сложных и способных) стоимость одного прогона для большинства рукописей составляет менее $0,50.