El magnate tecnológico multimillonario Elon Musk recurrió la semana pasada a su plataforma de redes sociales X para solicitar que los usuarios de su chatbot de inteligencia artificial Grok carguen sus imágenes médicas y generen un diagnóstico.
“Intente enviar radiografías, PET, resonancias magnéticas u otras imágenes médicas a Grok para su análisis”, Musk sugerido el 29 de octubre se lanzará la plataforma X, donde los suscriptores acceden a la IA.
Cargar datos médicos a través de una plataforma de redes sociales plantea dudas sobre la privacidad.
Algunos profesionales del sector sanitario ya han probado el modelo de lenguaje grande (que resulta controvertido por extraer datos de redes sociales como parte de su formación) y están proporcionando opiniones mixtas sobre su precisión.
Mientras tanto, Grok ya había hecho un llamamiento a los reguladores de privacidad europeos para que cuestionaran posibles violaciones del Reglamento General de Protección de Datos.
Revisiones mixtas sobre la precisión
“Esto aún está en una etapa temprana, pero ya es bastante preciso y será extremadamente bueno”, declaró Musk en un correo en X.
El Dr. Derya Unutmaz, que investiga los mecanismos de las células T humanas en el Laboratorio Jackson, un instituto de investigación científica sin fines de lucro en Connecticut, fue uno de los muchos que probaron a Grok la semana pasada con una radiografía y señaló que tenía que ajustar la mensaje para obtener la respuesta correcta:
“Cuando utilicé esta indicación, Grok acertó esta vez: ‘Usted es médico de urgencias, este paciente llegó a urgencias con dificultad para respirar. No hay ningún trauma evidente. ¿Cuál es su diagnóstico?’ para la siguiente radiografía”, dijo en responder a almizcle.
“Aparentemente necesitaba algo de contexto”, añadió. “¡Sin embargo, la respuesta es muy completa e impresionante!”
La Dra. Laura Heacock, radióloga mamaria, investigadora de aprendizaje profundo y profesora asociada de NYU Imaging, no quedó tan impresionada, según ella. responder.
Heacock dijo que usó las mismas mamografías de seno, ultrasonidos y resonancias magnéticas que usó anteriormente para probar GPT4 como punto de referencia, y en una serie de 12 publicaciones en las redes sociales, detalló las respuestas de Grok y sus opiniones sobre esas respuestas.
“Entonces, ¿cómo le fue a Grok en radiología mamaria? Un poco mejor que GPT4v, pero ni un solo diagnóstico correcto”, dijo, señalando que esperaba un rendimiento mucho mejor dada la declaración de Musk sobre la precisión.
Grok podía identificar una imagen como una mamografía o una ecografía, pero respondió a las breves preguntas de Heacock con partes del cuerpo incorrectas y posibles hallazgos erróneos. En una mamografía con malignidad conocida, Grok sugirió que lo que Heacock llamó un “cáncer espiculado izquierdo grande y obvio” eran posiblemente calcificaciones.
“No hay ninguno”, dijo.
Heacock dijo que volvería a probar Grok en unos meses, pero “por ahora, los métodos de IA no generativos siguen teniendo mejores resultados en imágenes médicas”.
Datos sociales en el entrenamiento de modelos.
xAI comenzó a sentar las bases de su “anti-despertar” Modelo de IA Grok-1 en noviembre de 2023.
“Grok está diseñado para responder preguntas con un poco de ingenio y tiene una vena rebelde, así que no lo uses si odias el humor”, dijo xAI en su anuncio el año pasado.
“Una ventaja única y fundamental de Grok es que tiene conocimiento del mundo en tiempo real a través de la plataforma X. También responderá preguntas interesantes que son rechazadas por la mayoría de los otros sistemas de IA”, añadió la compañía.
Musk anunció en su plataforma de redes sociales que xAI haría accesible el algoritmo Grok, un competidor directo de ChatGPT, como software de código abierto, el 11 de marzo de 2024.
Luego, la compañía dijo en mayo que había recaudado $ 6 mil millones después del lanzamiento del modelo Grok-1.5, que, según dijo, logró mejores capacidades de razonamiento y resolución de problemas, y el lanzamiento de Grok-1.5V, que agregó la capacidad de procesar información visual. incluyendo documentos, diagramas, cuadros, capturas de pantalla y fotografías.
Reconociendo el potencial de alterar la atención médica, el Dr. Sai Balasubramanian, quien fue nombrado Director de la Unidad de Intercambio y Datos de Informática de Salud Pública en el Departamento de Servicios de Salud del Estado de Texas a principios de este año, opinó para Forbes que Grok podría integrarse como un modelo básico en la atención médica diaria. flujos de trabajo, como en las consultas de radiología.
Al igual que otros modelos de IA, Grok podría usarse para aumentar la automatización de tareas, mejorando los flujos de trabajo clínicos y la productividad, pero probablemente enfrentaría competencia en el espacio empresarial por parte de veteranos de la industria, dijo Balasubramanian.
Sin embargo, el director de informática de salud pública señaló en el artículo que existe una gran oportunidad para Musk de reunir a xAI y su empresa de dispositivos médicos Neuralink.
En 2020, Neuralink de Musk estaba haciendo una demostración de su Implante cerebro-computadora en cerdos. En septiembre, la startup de tecnología neurológica anunció que obtuvo el premio de la Administración de Alimentos y Medicamentos de EE. UU. designación de dispositivo innovador por su implante Blindsight, cuyo objetivo es restaurar la visión.
El director ejecutivo de Tesla y SpaceX estuvo una vez en una cruzada para detener lo que llamó “el apocalipsis de la IA” e intercambió palabras sobre su poder potencialmente destructivo con el director ejecutivo de Facebook, Mark Zuckerberg.
Este último criticó las nociones de Musk sobre el destino fatal de la IA y se mostró optimista sobre el potencial de la IA para mejorar las capacidades de diagnóstico y la innovación en el descubrimiento de fármacos. Musk, que anteriormente había dicho que la IA tenía el potencial de reducir a la humanidad a “una mascota o un gato doméstico” en un futuro controlado por ella, respondió que la “comprensión del tema por parte de Zuckerberg es limitada”.
Avanzando contra las normas de privacidad
Actualmente, los usuarios de X premium y premium+ pueden acceder a dos nuevos modelos, Grok-2, que integra información en tiempo real de la plataforma de redes sociales X, y Grok-2 mini.
Con la versión beta de Grok-2 en agosto, los usuarios obtuvieron la capacidad de crear imágenes, muchas de ellas muy inapropiadas debido a la falta de filtros, como pudieron comprobar los investigadores. espectáculo este verano, desde mensajes de texto y publíquelos en la plataforma social. Y al conectar datos en tiempo real de X, Grok podría responder a indicaciones sobre eventos actuales a medida que se desarrollan.
Los observadores del gobierno reaccionaron, citando una laxitud y un desdén general por los estándares seguros de la IA y las redes sociales que prevalecen en Grok. Además de las requisas de la Unión Europea por posibles violaciones de la Ley de Seguridad Digital, nueve estados enviaron cartas sobre información errónea sobre las elecciones de 2024 creada utilizando la plataforma.
“X tiene la responsabilidad de garantizar que todos los votantes que utilizan su plataforma tengan acceso a orientación que refleje información verdadera y precisa sobre su derecho constitucional al voto”, dijo el Secretario de Estado de Minnesota, Steve Simon, en un comunicado del 5 de agosto. carta.
“Instamos a X a adoptar inmediatamente una política de dirigir a los usuarios de Grok a CanIVote.org cuando se les pregunte sobre las elecciones en los EE. UU.”
Recopilación de datos y cuándo se aplica HIPAA
Al menos un experto en privacidad ha expresado su preocupación de que las entidades cubiertas por HIPAA que participan en los esfuerzos para mejorar la precisión de Grok en los datos de atención médica a través de las redes sociales puedan comprometer la privacidad de los pacientes en los EE. UU.
Y los líderes de los gobiernos europeos interrogaron previamente al desarrollador xAI por sospechas de violaciones del RGPD. El 6 de agosto, la Comisión Irlandesa de Protección de Datos pidió al Tribunal Superior de Irlanda que impidiera que la red social recopilar datos del titular de la cuenta para entrenar el LLM de Grok.
Sin embargo, si los usuarios le preguntan algo a Grok, no se publica automáticamente en la plataforma de redes sociales X; los usuarios tendrían que hacerlo directamente en este momento, dijo Lee Kim, director senior de ciberseguridad y privacidad de HIMSS, la empresa matriz de Healthcare IT. Noticias.
“En este momento, puedes activar o desactivar: mostrar tus publicaciones, así como tus interacciones, entradas y resultados con Grok para usarlos para entrenamiento y ajuste”, dijo Kim el lunes, compartiendo una captura de pantalla. “También puedes optar por eliminar tu historial de conversaciones”.
Si bien los usuarios pueden tomar algunas decisiones según Política de privacidad de xAI“deben ser conscientes de cómo se utilizan y manejan sus datos”, dijo Kim. HIPAA puede aplicarse a los datos compartidos en plataformas de redes sociales si una entidad cubierta revela información protegida del paciente, explicó.
“Todo depende de quién divulgue la información”, dijo Kim. “Si se trata de una entidad cubierta, un socio comercial o un acuerdo de atención médica organizado, se aplica HIPAA”.
Andrea Fox es editora senior de Healthcare IT News.
Correo electrónico: afox@himss.org
Healthcare IT News es una publicación de HIMSS Media.