OpenAI dice que el problema de la IA empresarial no son los modelos, sino cómo usarlos

Colin Jarvis, responsable de ingeniería de OpenAI, dijo el miércoles que la mayoría de las empresas que tienen dificultades con la inteligencia artificial (IA) no esperan modelos mejores. En cerca del 80% de los casos, el problema es la implementación: las compañías todavía no saben cómo poner la IA en marcha, cómo gobernarla o cómo demostrar que pueden confiar en ella. Jarvis trabaja en Glasgow y lidera a los ingenieros de OpenAI que se instalan dentro de las empresas clientes para llevar sus modelos a producción. Habló con Alex Hern, de The Economist, en el evento HumanX en Ámsterdam.

En el otro 20% de los casos, los clientes dicen que el modelo aún no puede hacer la tarea. Esas limitaciones son ahora estrechas y especializadas, como una tarea de diseño de semiconductores, y no el trabajo de oficina diario. El equipo empezó con mayoría de ingenieros de software, pero con herramientas como Codex, cerca del 50% de cada proyecto es trabajo personalizado, frente al 90% anterior. Por eso ahora contratan más expertos en áreas específicas, como un exbanquero de inversión, exempleados científicos y un ingeniero de verificación de chips.

Cada proyecto empieza con una visita de dos días. El equipo pide a los líderes empresariales que ignoren la IA y nombren las palancas más importantes de su negocio. Luego trabajan en la que resulte ser. En una empresa de semiconductores, los ingenieros dedicaban quizás el 80% de su tiempo a errores de trabajos nocturnos. OpenAI construyó un sistema que encuentra la causa, propone una solución y la aplica tras la revisión de un ingeniero. Se extendió de un departamento a toda la empresa, que calcula un ahorro de unos 40 a 50 millones de dólares al año. Otros proyectos incluyen un agente que modifica diseños de piezas de auto a partir de instrucciones en lenguaje común, para un fabricante europeo, y otro que ayuda a redactar documentos de ensayos clínicos, siempre con un humano a cargo.

Jarvis mencionó dos errores comunes: elegir un caso de uso porque parece encajar con la IA, no porque importe; o lograr un buen caso en un departamento y que quede como una demo que nunca se expande. Las empresas exitosas miden el éxito por el uso en producción, no por pruebas de concepto. Un cliente de semiconductores tiene unos 35 casos en funcionamiento tras unos 18 meses. Creó un equipo central para escalar proyectos y puso pequeños grupos de ingenieros en cada unidad de negocio. Los ingenieros de OpenAI no tienen incentivos financieros ligados al uso; se les mide por si el proyecto llega a producción y mejora una métrica real. Cuando los embeddings de OpenAI eran demasiado lentos para un servicio de búsqueda de Klarna, Jarvis recomendó usar un modelo de código abierto. "Desde el lado de OpenAI, deberíamos ser siempre temporales", dijo. Hern señaló que Sam Altman estaba en la ONU ese día, mientras crece la presión para frenar la IA. Jarvis dijo que OpenAI ha mostrado que pausará cuando alcance los límites de sus marcos de seguridad. Cree que pausó su principal entrenamiento de aprendizaje por refuerzo "en septiembre de este año". OpenAI publicó su propio artículo sobre la pausa el 18 de agosto, que describe una pausa de dos semanas en el entrenamiento de aprendizaje por refuerzo de sus últimos modelos y dice que su mayor ejecución planificada de frontera quedó en espera. Altman ha dicho después que OpenAI marcará su propio ritmo sin esperar al Congreso. Jarvis afirmó que los ingenieros ayudan a probar si los marcos de seguridad creados en el laboratorio resisten en empresas reales y desordenadas. OpenAI no está solo: AWS gasta 1000 millones de dólares en el mismo modelo, y Microsoft lanzó en julio un negocio de implementación de 2500 millones de dólares.