Исследователи могут использовать искусственный интеллект (ИИ) язык такие модели, как ChatGPT писать и пересмотреть научные статьи, согласно Международным Комитетом редакторов медицинских журналов (icmje). Эти инструменты не должны быть перечислены в качестве авторов, и исследователи должны обозначать, как АИ-помощь были использованы технологии, говорится в сообщении комитета.

Эти новые руководящие принципы последнем усилии для медицинских журналов, чтобы определить правила использования этих масштабных языковых моделей (LLMs) в научном издании. Хотя эти АИ-Assisted средства смогут помочь с решением таких задач, как написание, анализ данных, отлов ошибок, и многое другое, они также подвержены ошибкам, отметила , профессор биомедицинской информатики в Университете Колорадо в Школе медицины в городе Аврора, штат Колорадо. Это также не совсем понятно, как информация хранится и обрабатывается в такого рода инструменты, и кто имеет доступ к этой информации, – отметил он.

Доктор Кейси Грин

В то же время, эксперты утверждают, что эти инструменты ИИ может оказать положительное воздействие на местах, ограничивающие некоторые лингвистические различия в научных публикациях, а также облегчение бремени какие-то однообразные или механические задачи, которые приходят вместе с рукописью письменной форме.

Что эксперты могут договориться о том, что использование средства ИИ здесь, чтобы остаться. “Это станет обычным инструментом”, – сказал Грин. “Я не думаю, что есть выход, что на данный момент”.

Изменения в медицинской публикации

OpenAI выпустила ChatGPT в ноябре 2022. По его собственным словам, ChatGPT “глубокий модели обучения, которая была обучена на огромное количество текста, данных, чтобы понять и создать человека-как текст.” Введите вопрос или запрос, и он будет отвечать. Например, когда его спросили, как инструмент ИИ могут быть использованы в научной публикации, ChatGPT ответил:

“ChatGPT может помочь научных публикаций по генерации идей, разъяснения концепций, проведения предварительных обзоров литературы, обеспечивая вычитка и предложения, изменение и помощь в структуризации и организации научных трудов. Тем не менее, она должна использоваться в качестве вспомогательного инструмента, помимо опыта и проверки от проверенных научных источников”.

Всего через несколько месяцев после ChatGPT стало доступным, исследователи начали использовать этот инструмент в своей работе. Один человек, сом Бисвас, д. м. н., врач-рентгенолог в Университете штата Теннесси, Центр медицинских наук в Мемфисе, как сообщается, использовала ChatGPT автору всего за 4 месяца, по данным на ежедневный зверь. Пять из этих статей были опубликованы в разных журналах. Бисвас отказался дать интервью для этой статьи.

Есть также сообщения о работах с ChatGPT как один из перечисленных авторов, которые . В ответ, Джама, природа, и наука все опубликованные передовицы в январе изложив свою политику, используя ChatGPT и другие крупные языковые модели в научные разработки технологических процессов. Редакторами журналов и (ОАК) также обновил свою политику, чтобы отразить влияние средства разработки ИИ.

Консенсус заключается в том, что ИИ имеет место на автора, имя автора.

Д-Р Даниэль Соломон

“Мы считаем, что это не целесообразно, потому что соавторстве означает, что вы берете на себя ответственность за анализ и сбор данных, которые включены в рукопись. Машина, которая диктуется ИИ не может брать на себя ответственность”, – сказал Даниэль Соломон, Мэриленд, mph, врач-ревматолог в Бригам и женская больница, Бостон, и главный редактор АСR журнал артрит и ревматология.

Проблемы с AI

Одна из больших проблем с помощью ИИ в письменном виде заключается в том, что он может генерировать текст, который кажется правдоподобным, но это не соответствует действительности и не подтверждается данными. Например, Грин и его коллега , тоже из Медицинской школы Университета Колорадо медицины, написал статью о том, что используется большое язык модели для пересмотра научных рукописей.

Доктор Милтон Pividori

“Мы использовали те же программы, чтобы пересмотреть эту статью и в один прекрасный момент, она добавила линию, которая отметила, что большой язык модели были доработаны на набор данных рукописей в одном поле. Это делает много смысла, и это абсолютно то, что вы могли бы сделать, но не было чего-то, что мы сделали”, – сказал Грин. “Без очень тщательного анализа содержания, становится возможным изобретать вещи, которые на самом деле не сделано”.

В другом случае, что видный профессор права, был обвинен в сексуальном нападении, со ссылкой на “Вашингтон Пост” статью, которая не существует.

“Мы живем в обществе, где мы крайне обеспокоены фейковых новостей,” Pividori добавил: “и такие ошибки, конечно, могут привести к обострению, что в научном сообществе, которое весьма относительно, потому что наука сообщает Государственная политика”.

Еще одной проблемой является отсутствие прозрачности вокруг того, как использовать большие языковые модели, как процесс ChatGPT и хранить данные, чтобы сделать запросы.

“Мы понятия не имеем, как они записывают все подсказки и вещи, которые мы введем в ChatGPT и их систем”, – сказал Pividori.

Недавно OpenAI рассмотрены некоторые вопросы, связанные с конфиденциальностью, позволяя пользователям с ии бота, так что беседы не может быть использован для обучения или усовершенствования моделей компании. Но Грин отметил, что условия предоставления услуг “все еще остаются довольно туманными”.

Соломон также выражает озабоченность исследователей с помощью этих инструментов ИИ в разработке, не зная, как они работают. “В чем мы действительно беспокоит, так это тот факт, что [LLMs] немного “черного ящика” — люди реально не понимают методологии”, – сказал он.

Положительное Инструмент?

Но, несмотря на эти проблемы, Многие думают, что эти типы ИИ-Assisted средства могут оказывать положительное воздействие на медицинское издание, особенно для тех, для кого английский не является родным языком, отметил , легочной и интенсивной терапии преподавателем Северо-Западного университета Фейнберг Школы медицины в Чикаго. Она недавно сравнивая научных рефератов ChatGPT и реальные рефератов и обнаружил, что рецензенты сочли ее “очень сложно”, чтобы провести различие между ними.

“Большинство исследований, опубликованных на английском языке”, – сказала она в электронном письме. “Ответственное использование LLMs может потенциально снизить нагрузку написания заняты ученые и улучшения справедливости для тех, кто не являются носителями английского языка.”

Pividori согласился, добавив, что не являясь носителем языка, он тратит гораздо больше времени, работая на структуру и грамматику предложений при создании рукописи, по сравнению с людьми, которые говорят на английском в качестве первого языка. Он отметил, что эти средства также можно использовать для автоматизации некоторых более монотонные задачи, которые приходят вместе с написанием рукописи и позволит сосредоточиться на более творческих аспектах.

В будущем, “я хочу больше сосредоточиться на том, что только человек может сделать, и пусть эти инструменты, делать все остальное”, – сказал он.

Новые Правила

Но несмотря на то, что отдельные исследователи относитесь LLMs, они соглашаются, что эти инструменты ИИ здесь, чтобы остаться.

“Я думаю, что нам следует ожидать, что они станут частью медицинского исследовательского учреждения со временем, когда мы выясним, как использовать их соответствующим образом”, – сказал Соломон.

Хотя споры о том, как наилучшим образом использовать ИИ в медицинских изданий будет продолжена, редакция журнала согласна, что всех авторов рукописи несете единоличную ответственность за контент в статьях, которые используются технологии ИИ-помощь.

“Авторы должны тщательно проверять и редактировать результат, потому что ИИ может генерировать авторитетно вывод, который может быть недостоверной, неполной или предвзятой” в международный руководства государства.