El equipo legal de Elon Musk presentó a un solo testigo experto de alto perfil el martes: Stuart Russell, un profesor de ciencias de la computación de la Universidad de California, Berkeley, que ha pasado décadas estudiando la inteligencia artificial. La sala del tribunal, llena de jurados y presidida por la jueza Yvonne Gonzalez Rogers, se convirtió en un escenario para un argumento más amplio de que OpenAI, originalmente fundada como una organización sin fines de lucro centrada en la seguridad de la IA, se ha desviado hacia un territorio impulsado por las ganancias.

El testimonio de Russell se centró en los peligros inherentes de los sistemas de IA avanzados. Describió un espectro de riesgos, desde las amenazas cibernéticas inmediatas hasta el desafío a largo plazo de alinear máquinas superinteligentes con los valores humanos. "El desarrollo de la inteligencia artificial general crea una dinámica de ganador-se-lleva-todo", les dijo al tribunal, advirtiendo que una sola organización podría dominar la tecnología y dictar su trayectoria.

Sus comentarios hicieron eco de una carta abierta de marzo de 2023 que firmó, que pedía una pausa de seis meses en la investigación de la IA para que los formuladores de políticas pudieran ponerse al día con los avances rápidos. Musk, que también firmó la carta mientras lanzaba su laboratorio de ganancias xAI, fue destacado por la defensa como evidencia de que incluso los líderes de la industria compartían preocupaciones de seguridad.

Los abogados de OpenAI se movieron rápidamente para limitar el testimonio de Russell. Argumentaron que su experiencia se centraba en el riesgo abstracto de la IA, no en los protocolos de seguridad específicos o la estructura corporativa de OpenAI. Después de una serie de objeciones, la jueza Rogers limitó sus comentarios, impidiendo que elaborara sobre las amenazas existenciales que ha advertido durante mucho tiempo.

A pesar de las limitaciones, Russell logró transmitir una tensión clara: la búsqueda de la inteligencia artificial general puede entrar en conflicto con la imperativa de asegurarse de que dichos sistemas permanezcan bajo control humano. Advirtió que sin salvaguardias robustas, la carrera para desarrollar modelos cada vez más capaces podría convertirse en una carrera armamentista entre laboratorios fronterizos de todo el mundo.

La defensa pintó el cambio de OpenAI hacia un modelo de ganancias como una traición a su misión original. Citando correos electrónicos internos y declaraciones iniciales de los fundadores de la organización, argumentaron que la organización sin fines de lucro estaba destinada a servir como un contrapeso de espíritu público a gigantes corporativos como Google DeepMind. La necesidad de recursos de cómputo adicionales, dijeron, obligó a los fundadores a buscar capital de riesgo, comprometiendo finalmente la ética de seguridad primero de la organización sin fines de lucro.

El contrainterrogatorio de OpenAI se centró en separar las evaluaciones de riesgo generales de Russell de las medidas de seguridad concretas de la empresa. Los abogados lo presionaron sobre si había evaluado las políticas internas de OpenAI, y respondió que su función era proporcionar antecedentes sobre las implicaciones más amplias de la tecnología, no auditar las prácticas específicas de la empresa.

Fuera de la sala del tribunal, el juicio refleja una creciente conversación nacional sobre la regulación de la IA. El senador Bernie Sanders recientemente presentó legislación para imponer una moratoria a la construcción de nuevos centros de datos, citando preocupaciones de que el desarrollo de la IA sin control podría exacerbate los impactos climáticos y concentrar el poder. Figuras como Sam Altman, Geoffrey Hinton y Musk mismo han expresado públicamente tanto la promesa como los peligros de la IA avanzada, agregando capas de complejidad a la batalla legal.

La aparición de Russell, aunque limitada, reforzó el argumento de que la comunidad de la IA está dividida entre la innovación rápida y la gestión cautelosa. Su testimonio recordó a los jurados que las apuestas se extienden más allá de las ganancias corporativas a la posible disruptión social.

El resultado del juicio podría sentar un precedente para cómo los tribunales evalúan las obligaciones de seguridad de las empresas de IA. A medida que la tecnología avanza hacia capacidades cada vez mayores, la tensión destacada por Russell - entre la ambición y la seguridad - sigue siendo un punto focal para los formuladores de políticas, los inversores y el público en general.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas