Dezembro 26, 2024

O Ribatejo | jornal regional online

Informações sobre Portugal. Selecione os assuntos que deseja saber mais sobre a Folha d Ouro Verde

Os chatbots são confiáveis?  O que você sabe.

Os chatbots são confiáveis? O que você sabe.

Ele joga

A incrível capacidade do ChatGPT de responder às perguntas das pessoas em respostas instantaneamente geradas e fáceis de entender pode ser um divisor de águas para as pessoas que procuram aconselhamento médico, mas um novo artigo de jornal médico diz que não é tão simples assim. O mesmo acontece com o ChatGPT.

O vice-presidente corporativo da Microsoft, Peter Lee, passou os últimos seis meses experimentando a versão mais recente do ChatGPT, uma plataforma de inteligência artificial projetada para responder às perguntas dos usuários em tom de conversa.

Como outros grandes paradigmas de linguagem, o ChatGPT, criado pela startup OpenAI de San Francisco, é treinado em grandes quantidades de dados disponíveis na Internet, em livros e outras fontes. Ele usa algoritmos para gerar palavras em uma sequência com base na frequência com que aparecem juntas na Internet. O mecanismo de busca Bing da Microsoft agora usa o ChatGPT.

Lee, um cientista da computação que dirige pesquisas da Microsoft em todo o mundo, está particularmente interessado no potencial médico e científico do ChatGPT.

anteriormente: O ChatGPT está prestes a anular as informações médicas. Para melhor e para pior.

ele Um artigo foi publicado quinta-feira no New England Journal of Medicine Sobre os usos potenciais do ChatGPT para registrar notas médicas, oferecer recursos de diagnóstico, educar médicos e pacientes e analisar e resumir dados. Particularmente notável, disse ele, é a capacidade da interface de fornecer respostas empáticas semelhantes às humanas.

Perguntamos a Lee, que também é coautor do próximo livro “The AI ​​​​Revolution in Medicine: GPT-4 and Beyond”, sobre sua empolgação e preocupações com a versão mais recente do ChatGPT, agora ChatGPT-4, que foi lançado recentemente. Também fizemos as mesmas perguntas no ChatGPT, mas como sua disponibilidade ainda é limitada, as respostas vêm do ChatGPT-3.

Pergunta: O ChatGPT fornece informações médicas confiáveis?

para mim: Pessoalmente, não confio em modelos com esse nível de sofisticação para meus conselhos ou informações pessoais sobre saúde e ficaria preocupado se médicos e enfermeiras os estivessem usando para tomar decisões médicas.

Bate-papoGPT: O ChatGPT é um modelo de linguagem treinado em grandes quantidades de dados de texto, incluindo informações médicas. No entanto, é importante observar que o ChatGPT não é um profissional médico e suas respostas não devem ser consideradas conselhos médicos.

Embora o ChatGPT possa fornecer informações sobre tópicos médicos, é essencial verificar essas informações com um profissional médico qualificado antes de tomar qualquer decisão sobre sua saúde. Existe também o risco de o ChatGPT fornecer informações médicas imprecisas ou desatualizadas, o que pode ser prejudicial.

Pergunta: Que tipos de erros o ChatGPT comete e por quê?

para mim: Os formulários GPT geralmente são muito ruins na recuperação de informações. É quase intencional porque os modelos GPT não querem recompilar seus dados de treinamento. Se você está pedindo a ele uma fonte específica, como uma referência a um papel, ele não será capaz de dar vida à fonte exata, então ele inventa algo, está “alucinando”.

Bate-papoGPT: O ChatGPT pode cometer erros, como fornecer respostas inadequadas ou incorretas, repetir-se ou produzir respostas que não correspondam ao contexto da conversa.

Esses erros podem ocorrer porque o ChatGPT é treinado em grandes quantidades de dados de texto, incluindo informações não verificadas e potencialmente tendenciosas, que podem levar a informações incorretas ou desatualizadas.

Além disso, as respostas do ChatGPT podem ser afetadas pela qualidade da entrada que recebe, o que pode resultar em respostas irrelevantes ou fora do tópico.

Pergunta: Como o ChatGPT-4 é melhor que o ChatGPT-3?

para mim: Atingimos um nível diferente de inteligência. O principal é que você tem esse modelo de IA com muitos recursos cognitivos e uma interface de bate-papo. Acaba sendo muito natural interagir.

Bate-papoGPT: É razoável esperar melhorias em áreas como escala, precisão, recursos multilíngues, compreensão do contexto e consistência.

Pergunta: O ChatGPT às vezes parece uma pessoa real. O ChatGPT tem uma “teoria da mente”, que é a capacidade de imaginar os estados mentais de outras pessoas?

para mim: Você não pode fazer isso. É uma máquina. Mas você pode perguntar ao GPT-4 o que o paciente (em uma determinada situação) descreveria como pensamento e sentimento. Ele é capaz de avaliar esse estado de espírito. … Isso se traduz em um sentimento de empatia pelos pacientes.

Bate-papoGPT: Não, o ChatGPT não tem uma teoria da mente.

O ChatGPT é um modelo de aprendizado de máquina que usa padrões e algoritmos estatísticos para gerar respostas a entradas de linguagem natural. Não tem consciência, emoções ou crenças, nem tem a capacidade de entender ou inferir os estados mentais dos usuários humanos.

Embora o ChatGPT seja capaz de gerar respostas que podem ser empáticas, envolventes e conversacionais, ele não possui uma teoria da mente, que é um aspecto crítico da cognição humana e da interação social.

Pergunta: O ChatGPT deve ser usado na medicina?

para mim: A sociedade tem uma escolha. Podemos tentar desacelerar ou desligar essa tecnologia, porque não entendemos totalmente os riscos. O segundo argumento é mais fatalista, dizendo: “Ele é imparável. Podemos tentar.” A terceira opção, que considero a única racional, mas que deve ser feita intencionalmente, é pensar bem em como podemos integrar essa tecnologia em nossas vidas para que possamos alcançar coisas que nem os humanos sozinhos nem a IA sozinha podem fazer. . Espero que a comunidade médica e o público escolham a terceira opção.

Bate-papoGPT: O ChatGPT não deve ser utilizado apenas para aconselhamento ou diagnóstico médico. Embora o ChatGPT possa fornecer informações sobre tópicos médicos, não é um profissional médico e suas respostas devem ser consideradas apenas informativas.

No entanto, o ChatGPT pode ser uma ferramenta útil para obter uma compreensão geral dos conceitos e da terminologia médica. Em qualquer caso, é essencial verificar qualquer informação fornecida pelo ChatGPT com um profissional médico qualificado para garantir que é exata e aplicável à sua situação.

Entre em contato com Karen Weintraub em kweintraub@usatoday.com.

A cobertura de saúde e segurança do paciente do USA TODAY é possível em parte por uma doação da Masimo Foundation for Ethics, Innovation, and Competition in Health Care. A Fundação Masimo não fornece informações editoriais.