¿Se puede confiar en los chatbots? que sabes.
La increíble capacidad de ChatGPT para responder a las preguntas de las personas en respuestas fáciles de entender y generadas instantáneamente podría cambiar las reglas del juego para las personas que buscan asesoramiento médico, pero un nuevo artículo de una revista médica dice que no es tan simple. También ChatGPT.
El vicepresidente corporativo de Microsoft, Peter Lee, pasó los últimos seis meses experimentando con la última versión de ChatGPT, una plataforma de inteligencia artificial diseñada para responder las preguntas de los usuarios con un tono de conversación.
Al igual que otros paradigmas de lenguaje extenso, ChatGPT, creado por la startup OpenAI de San Francisco, se entrena con enormes cantidades de datos disponibles en Internet, en libros y otras fuentes. Utiliza algoritmos para generar palabras en una secuencia basada en la frecuencia con la que aparecen juntas en Internet. El motor de búsqueda Bing de Microsoft ahora usa ChatGPT.
Lee, un científico informático que dirige la investigación de Microsoft en todo el mundo, está particularmente interesado en el potencial médico y científico de ChatGPT.
previamente:ChatGPT está a punto de anular la información médica. Para bien y para mal.
El Un artículo fue publicado el jueves en el New England Journal of Medicine. Acerca de los usos potenciales de ChatGPT para registrar notas médicas, ofrecer capacidades de diagnóstico, educar a médicos y pacientes y analizar y resumir datos. Particularmente notable, dijo, es la capacidad de la interfaz para proporcionar respuestas empáticas similares a las humanas.
Le preguntamos a Lee, quien también es coautor del próximo libro «La revolución de la IA en la medicina: GPT-4 y más allá», sobre su entusiasmo y preocupaciones sobre la última versión de ChatGPT, ahora ChatGPT-4, que fue lanzado recientemente. También hicimos las mismas preguntas en ChatGPT, pero dado que su disponibilidad aún es limitada, las respuestas provienen de ChatGPT-3.
Pregunta: ¿ChatGPT brinda información médica confiable?
para mí: Personalmente, no confío en los modelos con este nivel de sofisticación para obtener información o consejos de salud personales y me preocuparía que los médicos y las enfermeras los usaran para tomar decisiones médicas.
ChatGPT: ChatGPT es un modelo de lenguaje que está entrenado en grandes cantidades de datos de texto, incluida información médica. Sin embargo, es importante tener en cuenta que ChatGPT no es un profesional médico y sus respuestas no deben considerarse como un consejo médico.
Si bien ChatGPT puede proporcionar información sobre temas médicos, es esencial verificar esa información con un profesional médico calificado antes de tomar cualquier decisión con respecto a su salud. También existe el riesgo de que ChatGPT pueda proporcionar información médica inexacta o desactualizada, lo que podría ser perjudicial.
Pregunta: ¿Qué tipos de errores comete ChatGPT y por qué?
para mí: Los formularios GPT generalmente son muy malos para recuperar información. Es casi por diseño porque los modelos GPT no quieren volver a compilar sus datos de entrenamiento. Si le pides una fuente específica, como una referencia a un artículo, no podrá dar vida a la fuente exacta, por lo que inventa algo, está «alucinando».
ChatGPT: ChatGPT puede cometer errores, como proporcionar respuestas inapropiadas o incorrectas, repetirse o producir respuestas que no coincidan con el contexto de la conversación.
Estos errores pueden ocurrir porque ChatGPT está entrenado en grandes cantidades de datos de texto, incluida información no verificada y potencialmente sesgada, lo que puede conducir a información incorrecta o desactualizada.
Además, las respuestas de ChatGPT pueden verse afectadas por la calidad de la entrada que recibe, lo que puede resultar en respuestas irrelevantes o fuera del tema.
Pregunta: ¿En qué es mejor ChatGPT-4 que ChatGPT-3?
para mí: Alcanzamos un nivel diferente de inteligencia. Lo principal es que tienes este modelo de IA que tiene muchas capacidades cognitivas y tienes una interfaz de chat. Termina siendo muy natural interactuar con él.
ChatGPT: Es razonable esperar mejoras en áreas como la escala, la precisión, las capacidades multilingües, la comprensión del contexto y la coherencia.
Pregunta: ChatGPT a veces parece una persona real. ¿ChatGPT tiene una «teoría de la mente», que es la capacidad de imaginar los estados mentales de otras personas?
para mí: No puedes hacer esto. es una maquina Pero puede preguntarle a GPT-4 qué describiría el paciente (en una situación dada) como pensar y sentir. Es capaz de evaluar ese estado de ánimo. … Se traduce en un sentimiento de empatía por los pacientes.
ChatGPT: No, ChatGPT no tiene una teoría de la mente.
ChatGPT es un modelo de aprendizaje automático que utiliza patrones estadísticos y algoritmos para generar respuestas a entradas de lenguaje natural. No tiene conciencia, emociones o creencias, ni tiene la capacidad de comprender o inferir los estados mentales de los usuarios humanos.
Si bien ChatGPT puede generar respuestas que pueden ser empáticas, atractivas y conversacionales, no posee una teoría de la mente, que es un aspecto crítico de la cognición humana y la interacción social.
Pregunta: ¿Debe usarse ChatGPT en medicina?
para mí: La sociedad tiene una opción. Podemos intentar reducir la velocidad o apagar esta tecnología, porque no comprendemos completamente los riesgos. El segundo argumento es más fatalista y dice: «Es imparable. Es mejor que lo intentemos». La tercera opción, que creo que es la única racional, pero debería hacerse intencionalmente, es pensar detenidamente cómo podemos integrar esta tecnología en nuestras vidas para que podamos lograr cosas que ni los humanos por sí solos ni la IA por sí solos pueden hacer. . Espero que la comunidad médica y el público elijan la tercera opción.
ChatGPT: No se debe confiar en ChatGPT únicamente para obtener asesoramiento o diagnóstico médico. Si bien ChatGPT puede proporcionar información sobre temas médicos, no es un profesional médico y sus respuestas deben considerarse solo informativas.
Sin embargo, ChatGPT puede ser una herramienta útil para obtener una comprensión general de los conceptos y la terminología médica. En cualquier caso, es esencial verificar cualquier información proporcionada por ChatGPT con un profesional médico calificado para garantizar que sea precisa y aplicable a su situación.
Póngase en contacto con Karen Weintraub en [email protected].
La cobertura de salud y seguridad del paciente de USA TODAY es posible en parte gracias a una subvención de la Fundación Masimo para la ética, la innovación y la competencia en el cuidado de la salud. La Fundación Masimo no proporciona aportes editoriales.
«Zombieaholic. Nerd general de Twitter. Analista. Gurú aficionado de la cultura pop. Fanático de la música».