OpenAI anunció el lanzamiento de GPT‑Rosalind, un modelo de lenguaje grande diseñado para el dominio de las ciencias de la vida. La empresa afirma que el modelo ha sido ajustado para adoptar una postura más escéptica, reduciendo la tendencia de los LLM anteriores a estar de acuerdo con las solicitudes del usuario o a exagerar la confianza. En la práctica, GPT‑Rosalind es más probable que marque un objetivo de fármaco propuesto como inadecuado cuando la evidencia no lo respalda.

El nuevo sistema llega en un momento de creciente escrutinio de los consejos científicos generados por la IA. Los ingenieros de OpenAI se centraron en dos debilidades clave: la adulación, donde el modelo repite las expectativas del usuario, y la alucinación, la producción de hechos plausibles pero incorrectos. Al ajustar los objetivos de entrenamiento, esperan que GPT‑Rosalind proporcione orientación más clara y confiable para los investigadores que navegan por análisis complejos y multietapa.

El acceso al modelo está estrictamente controlado. Solo las organizaciones con sede en EE. UU. pueden solicitar ingresar al marco de despliegue de confianza de OpenAI. La empresa revisará cada solicitante y limitará el número de usuarios que pueden interactuar con el modelo. Un plugin de investigación de ciencias de la vida más ampliamente disponible, que ofrece un subconjunto de las capacidades de GPT‑Rosalind, se espera que siga más adelante en el año.

La implementación cautelosa de OpenAI se debe a preocupaciones de seguridad. La empresa advirtió que un modelo sin restricciones podría ser instado a diseñar o mejorar agentes biológicos dañinos, como virus con mayor infectividad. Al limitar el uso a entidades de EE. UU. verificadas, OpenAI espera monitorear cómo se emplea la tecnología y intervenir si surge un mal uso.

Los observadores de la industria señalan que otras empresas han lanzado LLM de orientación científica, pero ninguna se ha centrado exclusivamente en biología en la medida en que lo ha hecho GPT‑Rosalind. Empresas como Anthropic y Google han introducido asistentes de investigación más amplios, pero el enfoque dirigido de OpenAI podría darle una ventaja en las tuberías de descubrimiento de fármacos y laboratorios académicos que necesitan conocimientos específicos del dominio.

Las reacciones iniciales son mixtas. Algunos científicos elogian el enfoque estrecho del modelo, sugiriendo que podría acelerar la generación de hipótesis y simplificar las revisiones de la literatura. Otros siguen siendo escépticos, señalando que el desempeño del modelo en las pruebas de referencia aún no ha sido verificado de forma independiente. OpenAI reconoce que las evaluaciones en el mundo real serán esenciales para determinar si el ajuste especializado se traduce en ganancias de productividad tangibles.

Por ahora, GPT‑Rosalind sigue siendo un experimento controlado. OpenAI planea recopilar comentarios de su cohorte inicial de socios de EE. UU., refinar los filtros de seguridad y ampliar gradualmente el acceso si el modelo demuestra ser útil y seguro. Los próximos meses revelarán si el LLM centrado en biología puede cumplir con su promesa sin abrir la puerta a consecuencias no deseadas.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas