De alguna manera, Mira Murati puede discutir directamente los peligros de la IA mientras te hace sentir que todo va a estar bien.
Murati es directora de tecnología de OpenAI, liderando los equipos detrás de DALL-E, que utiliza la IA para crear obras de arte basadas en indicaciones, y ChatGPT, el popular chatbot de IA que puede responder preguntas complejas con una habilidad casi humana.
ChatGPT capturó la imaginación pública cuando se lanzó a finales de noviembre. Mientras que algunas escuelas lo están prohibiendo, Microsoft anunció una inversión de 10 mil millones de dólares en la empresa y Google emitió un «código rojo», preocupado de que la tecnología podría interrumpir su negocio de búsqueda. «Al igual que con otras revoluciones por las que hemos pasado, habrá nuevos puestos de trabajo y algunos puestos de trabajo se perderán…» Murati le dijo a Trevor Noah el otoño pasado sobre el impacto de la IA, «pero soy optimista».
Durante la mayor parte de enero, ChatGPT superó a Bitcoin entre los términos de búsqueda populares, según Google Trends. Toda la atención ha significado que la startup privada con sede en San Francisco, con 375 empleados y pocos ingresos, ahora tiene una valoración de aproximadamente 30 000 millones de dólares. Murati hablу con TIME sobre la mayor debilidad de ChatGPT, el potencial sin explotar del software y por qué es hora de avanzar hacia la regulación de la IA.
En primer lugar, quiero felicitarlos a usted y a su equipo por la reciente noticia de que ChatGPT obtuvo una calificación de aprobación en un examen de licencia médica de los Estados Unidos, un examen de MBA de la Escuela de Negocios Wharton y cuatro exámenes universitarios importantes de la escuela de derecho. ¿Sientes que tienes un hijo brillante?
No estábamos anticipando este nivel de emoción al poner a nuestro hijo en el mundo. De hecho, incluso tuvimos algo de inquietud por ponerlo ahí fuera. Tengo curiosidad por ver las áreas en las que comenzaron a generar utilidad para la gente y no solo la novedad y la pura curiosidad.
Le pedí a ChatGPT una buena pregunta para hacerte. Esto es lo que decía: «¿Cuáles son algunas de las limitaciones o desafíos que has encontrado mientras trabajas con ChatGPT y cómo los has superado?»
Esa es una buena pregunta. ChatGPT es esencialmente un gran modelo conversacional, una gran red neuronal que ha sido entrenada para predecir la próxima palabra, y los desafíos con él son desafíos similares que vemos con los modelos básicos de lenguaje grande: puede constar hechos.
¡De una manera muy segura también!
Si. En realidad, este es el desafío central. Elegimos el diálogo específicamente porque el diálogo es una forma de interactuar con un modelo y darle retroalimentación. Si creemos que la respuesta del modelo es incorrecta, podemos decir: «їEstás seguro? Creo que en realidad…» Y luego el modelo tiene la oportunidad de ir y venir contigo, similar a cómo conversaríamos con otro humano.
Las tecnologías verdaderamente innovadoras resuelven un problema. ¿Qué problema está resolviendo ChatGPT?
En este momento, está en la etapa de revisión de la investigación, así que no quiero hablar con gran confianza sobre los problemas que está resolviendo. Pero creo que podemos ver que tiene el potencial de revolucionar realmente la forma en que aprendemos. Hay gente en aulas de, por ejemplo, 30 personas. Todo el mundo tiene diferentes orígenes, formas de aprendizaje, y todo el mundo está recibiendo básicamente el mismo plan de estudios. Con herramientas como ChatGPT, puedes conversar sin fin con un modelo para entender un concepto de una manera que se adapte a tu nivel de comprensión. Tiene un inmenso potencial para ayudarnos con la educacion personalizada.
Pero algunas escuelas están prohibiendo ChatGPT. ¿Te sorprende esto?
Cuando estamos desarrollando estas tecnologías, realmente estamos presionando hacia la inteligencia general, las capacidades generales con alta fiabilidad, y lo hacemos de forma segura. Pero cuando lo abras a tantas personas como sea posible con diferentes antecedentes y experiencia en el dominio, definitivamente te sorprenderá el tipo de cosas que hacen con la tecnología, tanto en el frente positivo como en el negativo.
Un número creciente de líderes en el campo están advirtiendo de los peligros de la IA. ¿Tienes alguna duda sobre la tecnología?
Este es un momento único en el que tenemos autoridad en la cómo se forma a la sociedad. Y va en ambos sentidos: la tecnología nos da forma y nosotros la damos forma. Hay muchos problemas difìciles de resolver. їCómo consigues que el modelo haga lo que queres que haga, y cómo te aseguras de que está alineado con la intención humana y, en última instancia, al servicio de la humanidad? También hay un montón de preguntas sobre el impacto social, y hay muchas preguntas éticas y filosóficas que debemos considerar. Y es importante que traigamos diferentes voces, como filósofos, científicos sociales, artistas y personas de las humanidades.
¿Cuál es la pregunta ética o filosófica clave que todavía tenemos que resolver?
[AI] puede ser mal utilizado, o puede ser utilizado por malos actores. Entonces, hay preguntas sobre cómo rige el uso de esta tecnología a nivel mundial. ¿Cómo se rige el uso de la IA de una manera que esté alineada con los valores humanos?
¿Crees que estas preguntas deberían dejarse en manos de empresas como la tuya, o deberían los gobiernos involucrarse en la creación de regulaciones?
Es importante que OpenAI y empresas como la nuestra traigan esto a la conciencia pública de una manera controlada y responsable. Pero somos un pequeño grupo de personas y necesitamos un montón más de información en este sistema y mucha más información que vaya más allá de las tecnologías, definitivamente reguladores, gobiernos y todos los demás.
Siempre se teme que la participación del gobierno pueda ralentizar la innovación. ¿No crees que es demasiado pronto para que los responsables políticos y los reguladores se involucren?
No es demasiado pronto. Es muy importante que todos empiecen a involucrarse, dado el impacto que estas tecnologнas van a tener.
¿Podes darme una canción o álbum, un libro y una película que nos dé una idea de quién eres y qué te inspira?
- Canción: Paranoid Android de Radiohead La canciуn estб en capas y toca temas relacionados con la sociedad sobre la tecnologнa. No es muy edificante, pero es hermoso y provoca reflexión.
- Libro: Duino Elegies, una colecciуn de poemas de Rainer Maria Rilke. Recientemente recibió esto como regalo y la profundidad y la belleza de los poemas me parecieron muy inspiradoras.
- Película: 2001: Una odisea del espacio sigue agitando mi imaginación con sus imágenes y música, especialmente en la impresionante secuencia en la que el transbordador espacial se atrape acompañado por el vals de la Vals Azul del Danubio de Johann Strauss, incitando a la contemplación de la magnificencia del momento.
Fuente entrevista: Times
