EN | RU
EN | RU

Поддержка Медзнат

Назад

ChatGPT: формирование будущего здравоохранения с помощью искусственного интеллекта

ChatGPT ChatGPT
ChatGPT ChatGPT

Цифровой век ознаменован беспрецедентным ростом технических инноваций, определяющих сущность и характер взаимодействия человека с компьютером [1]. Впечатляют масштабы распространения искусственного интеллекта, который в современном мире успешно внедряется в самые разные сферы жизни [2]. Для сферы здравоохранения повсеместное применение ИИ также открывает беспрецедентные возможности, которые в конечном счете нацелены на повышение качества медицинской помощи и улучшение исходов лечения пациентов [3]. По мере приближения общества к будущему с ИИ важной темой становится разработка улучшенных моделей ИИ с диалоговым интерфейсом.

Эта революционная технология в корне изменила принципы нашего взаимодействия с машинами и глубоко повлияла на многие сферы жизни [1]. Один из примеров внедрения технологий на базе ИИ в здравоохранении — виртуальный собеседник, или чат-бот. Благодаря использованию автоматических правил, технологий обработки текстов на естественном языке (NLP) и технологий машинного обучения этот ИИ-инструмент позволяет обрабатывать данные и реагировать на различные типы запросов. В последние годы все больше компаний, в том числе и в сфере здравоохранения, начали использовать чат-боты для решения задач, связанных с обслуживанием клиентов, маршрутизацией запросов и сбором информации [3]. Такие виртуальные помощники помогают медицинским специалистам организовать их рабочие процессы и повышают уровень удовлетворенности пациентов [4].

30 ноября 2022 года компания OpenAI (Сан-Франциско, штат Калифорния, США) представила новый чат-бот на базе ИИ — Генеративный предобученный трансформер (Chat Generative Pre-trained Transformer, ChatGPT) [5–7]. С появлением языковой модели нового поколения в обществе поднялась волна обсуждений относительно увлекательных (и вместе с тем потенциально опасных) трансформаций, которые может принести в нашу жизнь ИИ в будущем [5]. Благодаря широким возможностям этот чат-бот оказался высоко востребован во всех профессиональных сферах [8,9]. Новая модель с впечатляющим число параметров — 175 миллиардов — оказалась одним из самых масштабных и эффективных инструментов ИИ-обработки, получившим широкое применение в самых разных направлениях деятельности [9].

В основе данной языковой модели лежит принцип глубокого обучения, который в ответ на текстовые запросы генерирует ответы, максимально приближенные к естественному человеческому языку. Высокий технологический уровень и универсальность в создании ответов на естественном языке делает ChatGPT оптимальным инструментом для персонализированных медицинских приложений [10]. Возможности машинного обучения позволили преодолеть в ChatGPT ограничения стандартных чат-ботов и вывести взаимодействие на уровень интерактивного общения, более приближенного к человеческому [1].

В центре всеобщего внимания ChatGPT оказался по причине его универсальной способности решать разные задачи, связанные с обработкой естественного языка [11]. Его триумфальное появление обозначило новую веху в истории развития чат-ботов этого класса. Привлечение миллиона пользователей в первые пять дней после выпуска приложения свидетельствует о его высокой востребованности в повседневной жизни. Впоследствии успех только нарастал: уже через два месяца число пользователей достигло 100 миллионов, и ChatGPT стал самым быстрорастущим пользовательским приложением в истории [5,12].

Чтобы понять все возможности ChatGPT в сфере здравоохранения, необходимо разобраться в его происхождении и технологической основе [4].

 

Что такое ChatGPT?

В названии ChatGPT отражена специфика приложения как чат-бота, то есть программы, способной распознавать и формировать текстовые ответы [13]. Эта сложная модель машинного обучения известна исключительной точностью решения задач по формированию ответов на естественном языке (NLG). На основании вводных данных ChatGPT создает текст, который имитирует человеческую речь [7]. Имеются отдельные свидетельства о наличии у ChatGPT способности формировать дедуктивные рассуждения, выстраивать цепочка пошаговых логических выводов и распознавать отдаленные зависимости [11].

Благодаря способности работать с несколькими языками, которые с помощью усовершенствованных технологий моделирования позволяют системе формировать более точные и сложные ответы, ChatGPT превосходит своих предшественников на базе технологии генеративного предобученного трансформера (GPT) [13]. ChatGPT в корне изменил наши представления о возможностях чат-бота на базе ИИ. Все это стало возможным благодаря его впечатляющей креативности и беглости! [14]

 

Как функционирует ChatGPT?

ChatGPT основан на архитектуре GPT, платформе нейронной сети, специально разработанной для обработки естественного языка и формирования выходных данных, соответствующих контексту [13]. Используя обширный массив данных из разных источников, чат-бот обрабатывает их с помощью модели-трансформера для установления связей между разными фрагментами информации и обоснованного прогнозирования подходящих текстов, формируемых в различных контекстах [15].

Для первичного обучения ChatGPT использовали обширную базу данных, найденных в интернете, и методики контролируемого обучения. Затем модель прошла обучение с подкреплением на основе отзывов людей, в результате чего была сформирована модель вознаграждения для обучения с подкреплением [7]. В отличие от более ранних моделей ИИ, основанных в основном на технологиях глубокого обучения, ChatGPT относится к новой категории на базе больших языковых моделей (LLM). Модели LLM разработаны для прогнозирования вероятности использования данной последовательности слов на основании контекстной информации из предшествующих слов.

При обучении с использованием обширных текстовых данных с помощью моделей LLM можно формировать новую последовательность слов, которая не была напрямую выявлена моделью, но согласуется с естественными шаблонами человеческого языка.

ChatGPT разработана на основе GPT3.5, модели LLM, обученной с использованием обширной базовой модели параметров OpenAI 175B, которая охватывает обширный массив текстовых данных из интернета. Процесс обучения предусматривает использование методик с подкреплением и контролируемых методик [11].

 

Для чего используют ChatGPT?

Недавно выпущенный чат-бот ChatGPT создан для того, чтобы сделать нашу жизнь проще [15]. ChatGPT — пример генеративного ИИ, поскольку он способен генерировать полностью новый контент, организуя уже существующую информацию новыми способами [3]. Данная языковая модель ИИ использует обширные метаданные из интернета и отличается способностью распознавать входные данные на естественном человеческом языке и формировать выходные данные, которые легко воспринимаются человеком [12]. Она специально разработана для создания текста, максимально приближенного к естественной человеческой речи, что позволяет применять его для решения задач, связанных с речью, таких как перевод, реферирование и диалоговые системы.

Чат-бот способен формировать ответы на запросы, отвечать на вопросы и даже создавать творческие тексты. Благодаря масштабному обучению на обширном корпусе текстовых данных из интернета ChatGPT формирует тексты впечатляющего уровня качества, сопоставимые с текстами, которые создает человек. Базовая технология, известная как GPT, превосходно обрабатывает последовательные данные, особенно в форме естественного языка, позволяя ChatGPT улавливать нюансы контекста в предложениях и соответствующим образом формировать связный текст [2].

 

Использование ChatGPT в сфере здравоохранения

Использование инструментов на основе ИИ, таких как ChatGPT, имеет решающее значение для формирования более эффективной системы здравоохранения, ориентированной на пациента [4]. Все указывает на то, что неизбежное распространение технологии LLM, включая широкое внедрение ChatGPT, произведет революцию в медицинской практике, образовании и научных исследованиях [13]. Инструмент искусственного интеллекта участвует в естественном человеческом языковом взаимодействии. Его появление было встречено с большим энтузиазмом и широким признанием [12].

Благодаря способности формировать ответы, близкие к человеческим, на различные запросы ChatGPT является ценным инструментом для здравоохранения. После его внедрения в целом ряде направлений отмечаются глубинные изменения [16]. Рассмотрим подробнее некоторые примеры использования ChatGPT в сфере здравоохранения и выясним, какие преимущества он имеет для пациентов, врачей и исследователей.

1. Ведение медицинской документации: у ChatGPT есть потенциал для оптимизации процесса ведения медицинской документации, включая медицинские карты, клинические записи и автоматически составленные сводки о взаимодействиях с пациентами. Медицинские работники высшего и среднего звена могут надиктовывать ChatGPT свои записи, из которых чат-бот сможет извлечь и обобщить наиболее значимые данные, например симптомы, диагнозы и полученное лечение.

Кроме того, его можно использовать для извлечения важной информации из документации пациентов, например результатов лабораторных исследований и протоколов визуализирующих исследований, повышая тем самым эффективность и точность управления медицинскими данными [16]. Упрощение этого процесса экономит время и минимизирует риск ошибок, возникающих при ручном заполнении документов [2].

2. Мониторинг заболеваний: с помощью ChatGPT медицинские специалисты и обычные граждане могут отслеживать международные данные о состоянии здоровья населения в режиме реального времени. Анализируя обширные данные из разных источников, в том числе новостные сообщения и базы данных систем общественного здравоохранения, ChatGPT может выявлять тенденции и отклонения, свидетельствующие о возникновении и распространении различных заболеваний. На основании этих наблюдений ChatGPT может автоматически уведомлять органы общественного здравоохранения, медицинские организации и широкую общественность, чтобы те могли своевременно принять меры для ограничения распространения заболеваний.

3. Виртуальные помощники для телемедицины: на базе ChatGPT можно создать виртуальных помощников, с помощью которых пациенты будут записываться на прием к врачу, отслеживать план своего лечения и систематизировать информацию о своем здоровье. В условия роста спроса на телемедицинские услуги пациенты могут воспользоваться таким виртуальным помощником на базе ChatGPT для дистанционного получения персонализированных рекомендаций и поддержки в более комфортном режиме.

4. Контроль лекарственной терапии: пациенты часто испытывают трудности с применением нескольких лекарственных препаратов и соблюдением рекомендаций по их дозам. ChatGPT может оказать неоценимую помощь в организации лекарственной терапии у пациентов. Он может напоминать пациентам о приеме лекарств, давать точные рекомендации по подсчету дозы, а также сообщать о возможных побочных эффектах. Кроме того, с помощью ChatGPT можно получить информацию о лекарственных взаимодействиях, противопоказаниях и других важных аспектах, которые необходимо знать пациентам для эффективного соблюдения назначенной им лекарственной терапии.

5. Маршрутизация пациентов: с помощью ChatGPT медицинские работники могут получить у пациентов ответы на вопросы о симптомах и анамнезе, что поможет установить степень тяжести их состояния и степень срочности медицинской помощи.

6. Включение в клинические исследования: процесс включения участников в клинические исследования может быть непростым. ChatGPT может упростить этот процесс: проанализировать данные о пациентах и выявить потенциальных участников, которые соответствуют критериям включения в определенные исследования. С помощью ChatGPT можно повысить результативность набора пациентов для исследований, особенно при формировании неоднородной популяции.

7. Составление медицинской документации: ChatGPT может быть полезен при составлении медицинской документации, например выписок из истории болезни и клинических записей. Предлагая правки и варианты в режиме реального времени, чат-бот оптимизирует процесс оформления медицинских текстов, обеспечивая точное и результативное документирование данных [16].

В научно-исследовательском процессе ChatGPT поможет ускорить процесс подготовки публикаций. Чат-бот может дать ценные рекомендации по организации структуры различных разделов, включая заголовок, аннотацию, введение, описание метода, результатов и обсуждение, что существенно повысит темпы подготовки научных работ и точность представленных в них данных. Исследователям, для которых английский язык не является родным, ChatGPT может помочь в улучшении навыков письменной речи [17].

8. Создание алгоритмов проверки симптомов: ChatGPT можно использовать для создания виртуальных алгоритмов, с помощью которых пациенты могут самостоятельно выявить у себя симптомы и оценить, нужно ли им обращаться за медицинской помощью. Такие алгоритмы могут подсказывать дальнейшие действия, в том числе меры самопомощи до обращения к медицинским специалистам.

9. Информация о лекарственных препаратах: ChatGPT способен предоставить актуальную информацию о лекарственных препаратах, включая сведения об их побочных эффектах, взаимодействиях и противопоказаниях. Пользователи могут взаимодействовать с ChatGPT на обычном языке и своевременно получать точную информацию для принятия обоснованных решений относительно назначенных им препаратов. Медицинские специалисты с помощью ChatGPT могут получать новости о создании новых препаратов, отзывах препаратов с рынка и значимых достижениях в фармацевтической отрасли.

10. Алгоритмы принятия клинических решений: ChatGPT может оказаться полезным инструментом для поставщиков медицинских услуг, поскольку способен предоставить рекомендации о доказательных практиках в режиме реального времени [16]. Хотя конечную ответственность за принимаемые клинические решения несет врач, ChatGPT может дать ему ценные рекомендации о выборе лечения исходя из наблюдаемых у пациента симптомов и анамнеза [2].

Чат-бот может предложить подходящие варианты лечения для определенных заболеваний, предупредить врача о возможных лекарственных взаимодействиях и предоставить клинические рекомендации для сложных медицинских случаев. С такой поддержкой врачи смогут принимать обоснованные решения, которые будут улучшать исходы лечения у пациентов [16].

11. Поддержка психического здоровья: ChatGPT предлагает широкие возможности для защиты психического здоровья, включая диагностику психических заболеваний и поддержку во время психотерапии [15]. С его помощью можно применять элементы поведенческой терапии в виде заданий, включая скрининг психического здоровья, рекомендации по стратегии преодоления трудности и стимулирование подключения к вспомогательным поддерживающим ресурсам для пациентов [16]. Предлагая персонализированные ответы для пациентов в поисках терапии, ChatGPT в некоторых случаях может оказывать необходимую помощь без психотерапевта.

Кроме того, с помощью чат-бота медицинские работники и консультанты потенциально могут поставить более точный диагноз на основании анализа речевых моделей пациента и со временем разработать специальный план лечения.

Используя все потенциальные возможности ChatGPT, мы сможем по-новому взглянуть на механизмы нашего взаимодействия со скрытыми мыслями и через эмпатию найти пути к выздоровлению. Таким образом, ChatGPT представляет собой действенный инструмент улучшения общего благополучия и психического здоровья человека. При правильном использовании ChatGPT может упрощать коммуникацию между людьми, помогать им лучше разбираться в собственных мыслях и эмоциях, а также может обучать их эффективным стратегиям действий в сложных ситуациях [15].

12. Коммуникация с пациентом: ChatGPT можно использовать для формирования автоматических ответов на запросы пациентов, например при записи на прием к врачу или организации приема лекарственных препаратов. Такой подход повышает результативность коммуникации и улучшает общее впечатление пациентов. Следует отметить, что ChatGPT следует использовать только в качестве вспомогательного инструмента в дополнение к медицинской помощи, оказываемой медицинскими специалистами, и он не должен заменять их опыт и клиническое мышление при принятии решений [2].

13. Удаленный мониторинг пациентов (RPM): RPM в последнее время набирает популярность как инструмент улучшения исходов у пациентов и минимизации расходов на здравоохранение. ChatGPT можно применять в дополнение к RPM для анализа данных с носимых устройств, датчиков и других устройств для мониторинга. С его помощью можно в режиме реального времени получать информацию о состоянии здоровья пациента, на основании которой медицинские специалисты смогут оперативно принимать меры в случае ухудшения состояния пациента или выявления неблагоприятных тенденций.

14. Медицинский перевод: ChatGPT может привести к радикальным изменениям в сфере медицинского перевода, предоставляя в режиме реального времени лингвистические услуги для устранения барьера в коммуникации между пациентами и медицинскими работниками. Благодаря усовершенствованным технологиям обработки речи ChatGPT обладает способностью эффективно и быстро переводить как медицинские и технические термины, так и бытовые выражения. Он может помочь пациентам разобраться в их диагнозе, изучить варианты лечения и правильно понять инструкции по применению лекарственных препаратов.

15. Медицинское образование: обязательным условием работы в медицине является постоянное повышение квалификации. ChatGPT может выступить в качестве единого портала, обеспечивающего доступ ко всей необходимой медицинской информации и ресурсам, что упростит организацию непрерывного обучения и повышения квалификации для студентов и дипломированных медицинских работников [16]. Технические достижения, особенно появление моделей на базе ИИ, например ChatGPT, открывают множество ценных возможностей для сферы медицинского образования. Вот лишь некоторые направления, в которых ChatGPT может оказаться востребованным:

(a) Автоматизированная оценка: ChatGPT может проверить работы и эссе студентов, анализируя такие аспекты, как структура предложения, словарный запас, грамматика и четкость изложения мысли. Особенно удобна эта функция для преподавателей, которым приходится оценивать большой объем выполненных заданий.

(b) Организация преподавания: способность ChatGPT составлять упражнения, викторины и сценарии можно использовать для организации классной работы, а также при выполнении практических заданий и их оценке. Использование чат-бота для перевода, разъяснения и обобщения материала открывает возможности для упрощения сложного учебного материала для студентов.

(c) Индивидуальное обучение: на базе ChatGPT можно создать виртуального репетитора и помощника, который может отвечать на запросы студентов и предоставлять обратную связь на их работу. Такой чат-бот сможет разрабатывать индивидуальный план обучения и учебные материалы с учетом особенностей восприятия и способностей конкретного студента.

(d) Помощь в научно-исследовательской деятельности: ChatGPT — ценный помощник при проведении научных исследований, который ответит на вопросы, подготовит реферат публикаций, составил список литературы, подберет литературу для обзора и проанализирует данные. Медицинские исследователи могут применить его способность сокращать исходный текст и извлекать ключевые данные для результативной навигации по большому массиву информации.

(e) Быстрое извлечение информации: ChatGPT дает возможность быстро получить доступ к точной и актуальной медицинской информации по широкому спектру заболеваний, вариантов лечения и вмешательств. Данная функция оказалась востребования у студентов медицинских учебных заведений и дипломированных медицинских специалистов в качестве инструмента для быстрого уточнения информации по определенным вопросам.

(f) Составление клинических задач: с помощью ChatGPT можно смоделировать клинические задачи и ситуации для формирования у студентов навыков диагностики и планирования лечения. Такие материалы можно использовать для развития клинического мышления и подготовки студентов к реальной клинической практике.

(g) Создание материалов для обучения: способность ChatGPT формировать контент можно использовать для подготовки обзоров данных, викторин и дидактических карточек, на основе которых преподаватели могут разрабатывать для учащихся интересные интерактивные материалы.

(h) Перевод: медицинские специалисты и преподаватели могут использовать лингвистические возможности ChatGPT для общения с пациентами с разным уровнем развития речевых навыков с целью оказания им оптимальной медицинской помощи [2].

16. Преобразование сферы цифрового здравоохранения: внедрение ChatGPT открывает возможности для трансформации сферы цифрового здравоохранения и снижения нагрузки на врачей, в том числе для решения проблемы профессионального выгорания. Автоматизируя трудоемкие процессы и высвобождая время для более эффективного взаимодействия с пациентами, ChatGPT повышает комфорт не только врача, но и пациентов. Поскольку внедрение ChatGPT в сфере здравоохранения только открывает эпоху медицины на базе ИИ, необходимо сохранить контроль человека за результатами использования чат-бота.

ИИ уже используется в самых разных сферах, а в будущем возможности для его применения могут стать по-настоящему безграничными. Появление новых разработок в области машинного обучения и обучения на новых базах данных позволит и дальше совершенствовать способность ChatGPT к распознаванию естественного языка и формированию подходящих и осмысленных ответов. Модель должна стать еще более интеллектуальной и способной выполнять еще более широкий спектр разнообразных запросов. ChatGPT имеет глубокий потенциал для развития. Непрерывная эволюция и совершенствование приложения действительно впечатляют. ChatGPT формулирует ответы максимально приближенным к естественной человеческой речи образом, что дополнительно упрощает для пользователей его восприятие [15].

 

Развитие ИИ: применение ChatGPT на базе USMLE

Системы ИИ потенциально могут существенно улучшить качество медицинской помощи и ее результаты. Таким образом, особенно важно обеспечить клиническое применение ИИ в соответствии с принципами объясняемости и достоверности. Сравнение медицинских знаний ИИ-систем и экспертов-врачей — важный первый этап оценки качества. В этом контексте ChatGPT оценивали с использованием вопросов из экзамена на получение медицинской лицензии США (USMLE) в качестве ориентира.

USMLE — строгая трехэтапная стандартизированная программа комплексного тестирования, предназначенная для оценки уровня квалификации врачей в различных областях, включая биоэтику, медицинский менеджмент, фундаментальные науки и клиническое мышление. Вопросы USMLE имеют единый уровень сложности и разработаны в строгом соответствии со стандартами и регламентами. Стандартный характер этих вопросов делает их оптимальным материалом для тестирования ИИ. Для получения медицинской лицензии в США необходимо пройти три стандартных теста для комплексной оценки знаний на экспертном уровне.

ChatGPT практически преодолел пороговый уровень в 60 % правильных ответов на вопросы USMLE, что обозначило важный этап в развитии технологий ИИ. Следует отметить, что данный результат был достигнут без введения специальных данных в ChatGPT обучающим его экспертом. Кроме того, ChatGPT продемонстрировал свою способность выстраивать понятные логические цепочки и предоставлять достоверные клинические данные, что повышает обоснованность его заключений и доверие к ним.

 

(1) ChatGPT продемонстрировал умеренную точность ответов и приблизился к пороговому результату тестирования USMLE.

Для оценки точности ответов ChatGPT на этапах 1, 2CK и 3 тестирования ESMLE все ответы ИИ оценивали с помощью системы оценки правильности, согласованности и извлечения знаний (ACI) классифицированы как правильные, неправильные и неопределенные. На рисунке 1 представлены результаты оценки точности ответов ChatGPT в тестировании USMLE, а именно: (A) распределение правильности ответов на введенные открытые вопросы, (B) распределение правильности ответов на вопросы с одним правильным ответом из нескольких вариантов ответа без обоснования (MC-NJ) и с запросом обоснования (MC-J).

 

(2) ChatGPT продемонстрировал высокий уровень внутренней согласованности ответов

ChatGPT продемонстрировал впечатляющий уровень согласованности ответов и их обоснования, что свидетельствует о высокой внутренней согласованности в рамках вероятной языковой модели. На рисунке 2 высокая внутренняя согласованность ответов ChatGPT представлена визуально, включая (А) общую согласованность по всем видам тестирования и всем форматам вопросов, (B)согласованность правильных и неправильных ответов по всем видам тестирования и всем форматам вопросов. Результаты статистического анализа с использованием точного критерия Фишера свидетельствуют о наличии статистически значимых различий (p < 0,001) между правильными и неправильными ответами.

 

(3) Обоснование ответов ChatGPT содержало неочевидные тезисы

В целом ChatGPT сформировал как минимум один значимый тезис в 88,9 % всех ответов. Частота встречаемости таких тезисов оставалась сравнительно стабильной независимо от вида тестирования и формата вопросов. Для всех видов тестирования средня плотность значимых тезисов у вопросов с правильным ответом была существенно выше по сравнению с вопросами с неправильными ответами (0,458 и 0,199). На рисунке 3 показано следующее: (A) распространенность общих тезисов, которую определяли как соотношение ответов с не менее чем одним тезисом для всех вопросов формата MC-J во всех видах тестирования, (B) плотность тезисов, классифицированных как правильные и неправильные, для вопросов формата MC-J во всех видах тестов.

Данные исследования свидетельствуют о потенциале использования масштабных языковых моделей, таких как ChatGPT, для упрощения учебных процессов в рамках медицинского образования в качестве ценного актива для последующей интеграции в процесс принятия клинических решений [11].

 

Расширение границ: углубленный анализ ограничений ChatGPT

Создатели ChatGPT подтверждают, что у модели есть целый ряд ограничений [3]. Один из основных факторов, препятствующих интеграции ChatGPT в здравоохранение, заключается в необходимости введения в чат-бот точных и актуальных данных [15]. В некоторых случаях ChatGPT формирует ответы, которые внешне заслуживают доверия, но по факту оказываются неправильными или бессмысленными. В идеале модель должна уточнять информацию у пользователей, составивших неоднозначные запросы, но в настоящее время она часто полагается на предположения о намерениях пользователя. Несмотря на все усилия по ограничению ответов модели в ответ на недопустимые запросы, по-прежнему фиксируют случаи, когда чат-бот дает опасные инструкции или иным образом отклоняется от установленных требований.

В отличие от поисковых систем типа Google, ChatGPT не ведет активный поиск информации об актуальных событиях в интернете. Знания чат-бота ограничены тем, что он узнал до 2021 года, в результате чего некоторые ответы могут быть устаревшими. Чат-боты проходят процесс обучения с использованием существующих библиотек текстовых данных, что позволяет формировать им ответы на определенные запросы пользователей. Ответ фактически представляет собой подборку данных из обучающих материалов, модифицированных алгоритмами. Поскольку чат-бот не обладает сознанием, его утверждения основаны исключительно на перефразировании или перестановке компонентов существующего контента. Перед ним не стоит задачи создавать оригинальный контент.

Чат-бот имеет доступ к библиотеке текстов, которую использовали при его обучении, что создает риск дословного повторения текста без соответствующей ссылки на первоисточник. В недавно проведенном исследовании с использованием ChatGPT, в первичном тексте, сформированном непосредственно чат-ботом, присутствовало только 6 % правильных ссылок. Следовательно, если ответ чат-бота был бы опубликован в научном журнале, автору и редактору необходимо включить в него правильно и полностью оформленные ссылки в соответствии с требованиями, направленными на предотвращение плагиата. Вызывает беспокойство тот факт, что ChatGPT способен преднамеренно генерировать ложную информацию, фабрикуя факты, хотя он как продукт программирования не может осознавать факт обмана.

Чат-боты не несут юридической ответственности и не имеют статуса юридического лица. Следовательно, чат-бот невозможно привлечь к ответственности или наказать. Условия использования результатов, полученных с помощью программного обеспечения и связанная с этим ответственность изложены в лицензии, предоставляемой компанией-разработчиком программы. Такое лицензионное соглашение аналогично лицензионным соглашениям для других инструментов работы с письменным текстом, включая Word и PowerPoint. Подобно компании Microsoft, которая снимает с себя ответственность за контент, создаваемый с помощью программы Word, разработчик ChatGPT, компания OpenAI, также отказывается от любой ответственности за тексты, сформированные с использованием ее продукта.

Условия пользования содержат положения о возмещении убытков, отказе от ответственности и ограничении ответственности. Таким образом, ответственность за любые ошибки ChatGPT потенциально несут пользователи. Следовательно, наблюдаемая и даже поощряемая практика приписывания авторства текстов ChatGPT не имеет под собой юридических оснований. Хотя ChatGPT может стать ценным инструментом для исследователей, он создает риски включения плагиата или ошибочной информации в публикуемую научную литературу. В ходе рецензирования не всегда можно выявить контент, созданный ChatGPT, поскольку исследователи могут испытывать трудности при разграничении аннотаций, сформированных ChatGPT и подготовленных человека [3].

Следует отметить, что ChatGPT может формировать неправильный или искаженный контент. Тем не менее пользователи всегда могут предоставить обратную связь, нажав кнопку в виде знака неодобрения («палец вниз»), чтобы система на основании такого отзыва обучалась и соответствующим образом корректировала свои ответы. Кроме того, ответы ChatGPT проходят проверку у специалистов, обучающих ИИ, которые последовательно работают над улучшением характеристик системы. Полученные в ходе такого взаимодействия данные хранятся в защищенном месте для защиты конфиденциальности пользователя и по запросу могут быть удалены [18].

 

Рекомендации Всемирной ассоциации медицинских редакторов (WAME) по использованию ChatGPT и чат-ботов при подготовке научных публикаций

С помощью ChatGPT можно создавать разнообразный контент, от электронных писем до статей и много другого [19]. Расширение практики использования ChatGPT вызвало масштабную дискуссию в научном сообществе об этических последствиях использования ИИ при подготовке научных публикаций, способных повлиять на заключения врачей, исследователей и законодателей [9]. Всемирная ассоциация медицинских редакторов (WAME) выпустила следующие рекомендации относительно использования ChatGPT и чат-ботов при подготовке научных публикаций [7].

  • Чат-боты не могут выполнять роль авторов, поскольку не способны осознавать связанные с авторством обязательства. Они не соответствуют критериям авторства, установленным Международным комитетом редакторов медицинских журналов (ICMJE), в частности критериев, связанных с заключительным утверждением публикации и ответственностью за ее правильность и целостность.
  • Кроме того, чат-боты не понимают сути заявления о конфликтах интересов и не обладают юридической силой для подписания таких заявлений. Поскольку чат-боты полностью зависят от своих создателей и не имеют независимой принадлежности к каким-либо организациям, они не могут владеть авторскими правами и не могут быть включены в число авторов при представлении рукописи. Авторы обязаны обеспечить соответствие всех лиц, указанных в качестве авторов, установленным критериям авторства, которые однозначно исключают чат-боты из этой категории.
  • Авторам рекомендуется соблюдать принцип прозрачности и указывать факт использования чат-бота при подготовке публикации. С учетом быстрого развития отрасли авторам, которые используют чат-ботов при подготовке статьи, обязаны четко обозначать данный факт с подробным описанием технических характеристик используемого чат-бота.
  • Необходимо указать название, модель и источник чат-бота, а также описать применяемую в приложении методику (например, структуру и синтаксис запроса). Такая прозрачность согласуется с рекомендацией ICMJE о выражении благодарности за помощь в составлении статьи.
  • Авторы несут ответственность за использованный в публикации контент, который был создан чат-ботом, что предполагается проверку правильности данных, отсутствие плагиата, надлежащее оформление всех источников в сформированных чат-ботом материалах. Если автор в процессе написания статьи взаимодействует с чат-ботом, он несет ответственность за сформированные чат-ботом материалы, проверяя их на правильность и уникальность. Автор обязан обеспечить отсутствие любых форм плагиата в своей работе, в том числе в тексте, сформированном чат-ботом.
  • Автор обязан гарантировать надлежащее оформление источников всех цитат. Кроме того, он обязан указать, на какой запрос была получена информация от чат-бота. Авторы обязаны найти и надлежащим образом оформить источники утверждений, сделанных чат-ботом. Поскольку чат-боты могут быть настроены таким образом, чтобы исключать источники, содержащие противоположные точки зрения, авторы обязаны самостоятельно найти, изучить и включить в статью такие противоположные мнения.
  • Редакторам необходимы эффективные инструменты для выявления контента, сформированного или модифицированного ИИ, и такие инструменты должны быть доступны всем редакторам независимо от их финансовых возможностей. Многие редакторы медицинских журналов продолжают оценивать рукописи методами прошлого столетия, но в текущих условиях им приходится сталкиваться с результатами активного использования ИИ и других технологий, позволяющих изменять текст, применять плагиат, изменять изображения и формировать документы искусственным образом. Отличить подлинный контент от сфабрикованных материалов всегда было непросто, однако с появлением таких чат-ботов, как ChatGPT, эта задача стала еще сложнее.
  • Необходимо максимально оперативно предоставить редакторам доступ к инструментам для эффективной и правильной оценки контента. Издательства, работающие в сфере науки, техники и медицины (STM), постоянно работают над созданием таких инструментов. Необходимо, чтобы у редактора всегда был доступ к таким инструментам независимо от его финансовых возможностей, поскольку это напрямую влияет на интересы научного сообщества и общества в целом.
  • Благодаря интеграции указанных инструментов в программное обеспечение для общедоступных публикаций, например Open Journal Systems в рамках проекта Public Knowledge Project, и обучению навыкам использования и интерпретации результатов скрининга, многие редакторы обязаны использовать автоматизированные средства скрининга представляемых рукописей [3].

 

Перспективы дальнейшего развития

ChatGPT постоянно развивается, и компания OpenAI уже выпустила несколько версий GPT с улучшенной скоростью ответа и другими характеристиками [15]. Необходимо в ближайшее время разработать руководство по использованию ChatGPT в научных исследованиях, включая такие важные аспекты, как ответственность, целостность данных, прозрачность и добросовестность. Таким образом, при использовании ChatGPT в научной и медицинской сферах приоритетное внимание следует уделять этическим и юридическим аспектам с учетом всех связанных с этим рисков и факторов. Необходимо провести дополнительные исследования по оценке содержания LLM и их потенциального влияния на развитие науки с особым фокусом на сферу здравоохранения.

Необходимо проводить дополнительные исследования по оценке потенциального влияния ChatGPT на эффективность и качество учебных материалов и инструментов оценки в сфере медицинского образования. В будущем также необходимо оценить возможности для применения ChatGPT для улучшения навыков коммуникации у студентов медицинских учебных заведений и повышения успеваемости с помощью LLM посредством мгновенного предоставления персонализированной обратной связи студентам [13]. По мере развития технологий ИИ будут расширяться сферы применения ChatGPT в здравоохранении.

Например, интеграция ChatGPT в платформы цифрового здравоохранения и роботизированные технологии открывает уникальные возможности для создания инновационных решений RPM, предоставления услуг телемедицины и даже проведения роботизированных хирургических вмешательств. Кроме того, ChatGPT может играть важную роль в создании подкастов на медицинскую тему и сообществ в LinkedIn, предоставляя данные, отвечая на запросы и содействуя сотрудничеству специалистов в рамках отрасли.

Поскольку общество ориентировано на будущее, неизбежно, что в системе здравоохранения будут возникать новые примеры использования технологий и новые разработки. Таким образом, для врачей особенно важно оставаться в курсе последних достижений в этой области и уметь пользоваться инструментами на базе ИИ, включая ChatGPT, для повышения производительности своей работы и улучшения качества предоставляемой пациентам медицинской помощи [4].

Благодаря высокой точности и правильности своих ответов ChatGPT сыграет важную роль в будущем развитии здравоохранения. Хотя текущая версия ChatGPT не предусматривает сравнение ее данных с данными реальной клинической практики, интеграция таких данных ожидается в будущем. ChatGPT будет оптимизировать процессы в разных сферах и повышать их результативность. Например, специалисты по подбору кадров могут автоматизировать этапы поиска и приема на работу сотрудников, сокращая финансовые и временные затраты на этот процесс. Туристы могут использовать ChatGPT для бронирования рейсов, гостиниц и других вариантов проезда, в режиме реального времени получая информацию о погоде, местных событиях и статусе полетов. Уникальная способность этого чат-бота распознавать и формировать тексты, приближенные к человеческой речи, делают его универсальным и ценным инструментом для различных областей здравоохранения. В любой сфере ChatGPT позволяет добиться впечатляющих результатов, будь то поддержка клиентов, создание контента или развлекательная индустрия.

ChatGPT имеет большой потенциал для применения в сфере электронного медицинского образования, от формирования информативных текстов до организации персонализированного обучения. Для полной реализации возможностей, связанных с этими технологиями, образовательные компании должны объединить усилия с поставщиками решений для создания единых обучающих платформ на базе генеративного ИИ и GPT. По мере развития ChatGPT будет способствовать развитию технологий ИИ, расширяя границы глубокого обучения и открывая направления для новых разработок [15].

 

Главные тезисы

В современном мире ИИ неуклонно осваивает новые сферы, постепенно становясь частью современной реальности [2]. Его используют для обучения компьютерных систем и принятия решений по принципам, сходным с принципами действий человека [3]. ИИ применяется в целом ряде инструментов, и одним из ключевых являются чат-боты [19]. ChatGPT относится к категории чат-ботов и применяется в качестве высокотехнологичной языковой модели, которая использует алгоритмы машинного обучения для воспроизведения взаимодействия между человеком и машиной [15]. Встроенная в архитектуру GPT и обширные базы речевых данных на разных языках, данная модель NLP упрощается взаимодействие с чат-ботом на базе ИИ в режиме реального времени, помогая ему имитировать и формировать текстовые ответы, приближенные к человеческой речи [13,15].

ChatGPT формирует ответы на основе тех данных, которые использовались при его обучении. Он адаптируется к решению таких разных задач, включая обобщение, перевод и создание контента. ChatGPT быстро обрел широкую популярность благодаря своей доступности и уникальным полезным характеристикам [12]. Он обладает потенциалом для коренного преобразования сферы здравоохранения благодаря трансформации принципов оказания медицинской помощи [20]. Создавая тексты, которые напоминают тексты, созданные людьми, он может способствовать улучшению подходов к лечению и более осознанному отношению пациентов к их заболеваниям.

Такие языковые модели на базе ИИ используются в целом ряде приложений, предназначенных для повышения качества обслуживания пациентов и оптимизации процессов оказания медицинской помощи и получения доступа к ценной информации у поставщиков медицинских услуг. Применение таких моделей для организации результативного взаимодействия между медицинскими работниками и пациентами позволяет использовать эффективные решения в сфере здравоохранения в интересах обеих сторон [15]. Этот ценный инструмент помогает врачам в решении различных задач, в том числе сокращает время на диагностику заболеваний и предоставляет данные для принятия обоснованных клинических решений, что в конечном счете приводит к прогрессу практической медицины [20].

ChatGPT предлагает также широкие возможности по работе с текстом, например составление резюме для объемных публикаций или помощь в подготовке чернового проекта презентации, которая впоследствии может быть доработана. Этот инструмент могут использовать исследователи, студенты и преподаватели для поиска новых идей и даже для подготовки аргументированных качественных эссе на определенные темы. Компания OpenAI в настоящее время участвует в разработке усовершенствованной версии чат-бота, которая превзойдет предшествующие версии в отношении функции создания текста. Другие компании также стремятся создать собственные инструменты на базе генеративного ИИ.

Появление ChatGPT и других вспомогательных инструментов привело к тому, что издатели научных журналов вынуждены включать в свою редакционную политику положения об использовании таких технологий. Очень важно, чтобы такая политика включала требования по использованию инструментов для выявления материалов, сформированных ChatGPT [3]. Возможности этого чат-бота очень велики: от составления ответов на запросы, формирования художественных и научных текстов на основе подсказок, до подготовки текстовых резюме и даже формирования компьютерного кода. Такая система способна вспоминать предыдущие фрагменты разговора, что позволяет ей задавать дополнительные вопросы, признавать ошибки, оспаривать неверные предположения и отказываться от неприемлемых запросов.

ChatGPT, как правило, формирует тексты высокого качества, что делает его востребованным инструментом для всех, кому необходимо быстро составить связный и логичный текст. Тем не менее важно помнить о случаях, когда ChatGPT формирует на первый взгляд достоверные ответы, которые оказываются некорректными и бессмысленными. Кроме того, знания системы ограничиваются информацией до 2021 года, поэтому она не знает о текущих событиях. ChatGPT могут использовать исследователи, студенты и преподаватели для поиска новых идей и даже для подготовки аргументированных качественных эссе на определенные темы.

Несмотря на потенциальную ценность ИИ для научных исследований, его применение при подготовке научных публикаций сопряжено с серьезными проблемами и ограничениями, а именно: обеспечение прозрачности, контроль качества, этические аспекты и риск увеличения систематических ошибок, уже присутствующих в данных и алгоритмах. В процессе подготовки таких исследований и публикаций по-прежнему должны участвовать эксперты, которые будут проверять предпосылки, тезисы и результаты. Беспокойство также вызывает вероятность создания чат-ботом ChatGPT поддельной литературы.

Использование ИИ для создания поддельной отчетности о научных исследованиях может привести к обману, фабрикации данных и злонамеренному искажению фактов с целью изменения воздействия на ход научных дискуссий и продвижения личных мотивов. Все это подрывает доверие к научным исследованиям и потенциально может приводить к принятию ошибочных или опасных решений на основании неверных данных. В процессе рецензирования публикаций могут возникнуть трудности при разграничении аннотаций, составленных GPT и экспертом. Настройки ChatGPT могут позволять ему имитировать стиль и формат оригинальных отчетов, что затрудняет выявление текстов, сформированных ИИ.

Таким образом, необходимо тщательно и осторожно подходить к применению ИИ в научной деятельности и помнить о том, что ее основу по-прежнему составляют человеческий опыт и критическое мышление. Компания Google разрабатывает альтернативу ChatGPT — чат-бот на базе ИИ Bard [7]. Таким образом, ChatGPT обозначил качественно новую веху в развитии взаимодействия между человеком и машиной. Последствия этого события только предстоит оценить, и они могут иметь как положительное, так и отрицательное значение.

Без сомнения, эта технология оказывает глубокое влияние на наше будущее. Таким образом, в сложившихся условиях очень важно тщательно оценивать потенциальную пользу и риски, связанные с этой передовой технологией, и следить за ее этичным и ответственным использованием [15]. Приоритетным направлением исследований должна стать разработка подходов, позволяющих эффективно использовать преимущества ChatGPT в сфере здравоохранения и медицины и снизить влияние указанных ограничений [18].

 

Список литературы

1. Shahsavar Y, Choudhury A. User Intentions to Use ChatGPT for Self-Diagnosis and Health-Related Purposes: Cross-sectional Survey Study. JMIR Human Factors. 2023 May 17;10:e47564.

2. Khan RA, Jawaid M, Khan AR, Sajjad M. ChatGPT - Reshaping medical education and clinical management. Pakistan Journal of Medical Sciences. 2023 Mar-Apr;39(2):605-607.

3. Zielinski C, Winker M, Aggarwal R, Ferris L, Heinemann M, Lapeña JF et al. Chatbots, ChatGPT, and Scholarly Manuscripts-WAME Recommendations on ChatGPT and Chatbots in Relation to Scholarly Publications. Afro-Egyptian Journal of Infectious and Endemic Diseases. 2023 Mar 1;13(1):75-9.

4. What Can ChatGPT Do for Healthcare Practices? Доступно по ссылке: https://www.entrepreneur.com/science-technology/what-can-chatgpt-do-for-healthcare-practices/450626 (дата последнего обращения: 9 июня 2023 г.)

5. Homolak J. Opportunities and risks of ChatGPT in medicine, science, and academic publishing: a modern Promethean dilemma. Croatian Medical Journal. 2023 Feb 28;64(1):1-3.

6. Haleem A, Javaid M, Singh RP. An era of ChatGPT as a significant futuristic support tool: A study on features, abilities, and challenges. BenchCouncil transactions on benchmarks, standards and evaluations. 2022 Oct 1;2(4):100089.

7. Bhatia P. ChatGPT for academic writing: A game changer or a disruptive tool? Journal of Anaesthesiology Clinical Pharmacology. 2023 Jan-Mar;39(1):1-2.

8. Patel SB, Lam K. ChatGPT: the future of discharge summaries?. The Lancet Digital Health. 2023 Mar 1;5(3):e107-8.

9. Wen J, Wang W. The future of ChatGPT in academic research and publishing: A commentary for clinical and translational medicine. Clinical and Translational Medicine. 2023 Mar;13(3):e1207.

10. Arslan S. Exploring the Potential of Chat GPT in Personalized Obesity Treatment. Annals of Biomedical Engineering. 2023 May 5.

11. Kung TH, Cheatham M, Medenilla A, Sillos C, De Leon L, Elepaño C et al. Performance of ChatGPT on USMLE: Potential for AI-assisted medical education using large language models. PLOS Digit Health. 2023 Feb 9;2(2):e0000198.

12. Parikh PM, Talwar V, Goyal M. ChatGPT: An online cross-sectional descriptive survey comparing perceptions of healthcare workers to those of other professionals. Cancer Research, Statistics, and Treatment. 2023 Jan 1;6(1):32-6.

13. Sallam M. ChatGPT utility in healthcare education, research, and practice: systematic review on the promising perspectives and valid concerns. В кн.: Healthcare 2023 Mar 19 (Vol. 11, No. 6, p. 887). MDPI.

14. Implications of ChatGPT for Healthcare. Доступно по ссылке: https://www.abstractivehealth.com/implications-of-chatgpt-for-healthcare

(дата последнего обращения: 9 июня 2023 г.)

15. Javaid M, Haleem A, Singh RP. ChatGPT for healthcare services: An emerging stage for an innovative perspective. BenchCouncil Transactions on Benchmarks, Standards and Evaluations. 2023 Feb 1;3(1):100105.

16. Revolutionizing Healthcare: The Top 14 Uses Of ChatGPT In Medicine And Wellness. Доступно по ссылке: https://www.forbes.com/sites/bernardmarr/2023/03/02/revolutionizing-healthcare-the-top-14-uses-of-chatgpt-in-medicine-and-wellness/?sh=59efd31d6e54

(дата последнего обращения: 8 июня 2023 г.)

17. Cheng K, Li Z, He Y, Guo Q, Lu Y, Gu S et al. Potential Use of Artificial Intelligence in Infectious Disease: Take ChatGPT as an Example. Annals of Biomedical Engineering. 2023 Jun;51(6):1130-1135.

18. Dave T, Athaluri SA, Singh S. ChatGPT in medicine: an overview of its applications, advantages, limitations, future prospects, and ethical considerations. Frontiers in Artificial Intelligence. 2023;6.

19. How is ChatGPT used in healthcare: benefits and use cases. Доступно по ссылке: https://chatfuel.com/blog/chatgpt-in-healthcare (дата последнего обращения: 9 июня 2023 г.)

20. The Future of ChatGPT in Healthcare: Potential Applications. Доступно по ссылке: https://www.datasciencecentral.com/the-future-of-chatgpt-in-healthcare-potential-applications/

(дата последнего обращения: 8 июня 2023 г.)

Комментарии (0)

Вы хотите удалить этот комментарий? Пожалуйста, укажите комментарий Неверное текстовое содержимое Текст не может превышать 1000 символов Что-то пошло не так Отменить Подтвердить Подтвердить удаление Скрыть ответы Вид Ответы Смотреть ответы en ru ua
Попробуйте поиск по словам: