Jensen Huang, CEO de NVIDIA: AGI en cinco años, las alucinaciones de la IA tienen solución

Después de dar una vívida charla en la GTC, el CEO de NVIDIA, Jensen Huang, participó en una sesión de preguntas y respuestas con muchas ideas interesantes para el debate. Una de ellas es abordar las acuciantes preocupaciones en torno a las alucinaciones de la IA y el futuro de la Inteligencia Artificial General (AGI). Con un tono de confianza, Huang aseguró a la comunidad tecnológica que el fenómeno de las alucinaciones de la IA -cuando los sistemas de IA generan respuestas plausibles pero infundadas- es un problema que tiene solución. Su solución hace hincapié en la importancia de alimentar los sistemas de IA con datos precisos y bien documentados para mitigar estos fenómenos. "La IA no debe limitarse a responder, debe investigar primero para determinar cuál de las respuestas es la mejor", señala Huang, y añade que para cada pregunta debe haber una regla que haga que la IA investigue la respuesta. Esto también se refiere a la generación mejorada por recuperación (RAG, Retrieval-Augmented Generation), en la que los LLM obtienen datos de fuentes externas, como bases de datos adicionales, para comprobar los hechos.

Otro comentario interesante del Consejero Delegado es que la cúspide de la evolución de la IA -la Inteligencia General Artificial- está a sólo cinco años vista. Muchas personas que trabajan en el campo de la IA están divididas en cuanto a la cronología de la AGI. Mientras que Huang pronosticó un plazo de cinco años, algunos investigadores destacados, como Yann LeCunn, de Meta, creen que estamos lejos del umbral de la singularidad de la IAG y que primero nos quedaremos con sistemas de IA de nivel perro/gato. La Inteligencia Artificial ha sido durante mucho tiempo un tema de fascinación y aprensión, con debates que a menudo giran en torno a su potencial para superar la inteligencia humana y las implicaciones éticas de tal desarrollo. A los críticos les preocupa la imprevisibilidad e incontrolabilidad de la inteligencia artificial una vez que alcanza cierto nivel de autonomía, lo que plantea interrogantes sobre la adecuación de sus objetivos a los valores y prioridades humanos. En cuanto al tiempo, nadie lo sabe, y todo el mundo hace sus predicciones, así que el tiempo dirá quién tenía razón.

Fuente: TechCrunch