La nueva generación de chatbots tomó por asalto a la Web, pero no están libres de problemas. De hecho, su capacidad para delirar y generar desinformación es verdaderamente escalofriante, y las dudas sobre el desarrollo ético de los modelos en segundo plano se multiplican a gran velocidad. Mozilla no sólo ha reconocido esta situación, sino que decidió avanzar en la búsqueda de una solución a largo plazo con Mozilla.ai, una nueva start-up que tiene como objetivo la creación de un ecosistema de inteligencia artificial abierto y transparente.
Todo usuario que haya mantenido una conversación con ChatGPT o Bing Chat en las últimas semanas seguramente descubrió dos detalles: La autoridad que transmiten estos chatbots al responder, y su extraordinaria habilidad para inventar cosas o reproducir basura. Si bien hay temas que los chatbots se niegan a discutir (por diferentes razones), lo más probable es que tarde o temprano conjuren algo completamente falso o repleto de errores.
Desde fake news hasta conflictos de copyright, muchas flechas apuntan a un problema con los propios modelos y sus procesos de entrenamiento. Sin ir demasiado lejos, OpenAI está siendo acusada de abandonar al «Open» en su nombre, y limitar la cantidad de detalles técnicos públicos sobre GPT-4. Para la gente de Mozilla, esa estrategia es errónea, y con la ayuda del investigador Moez Draief ha decidido crear una nueva start-up llamada Mozilla.ai.
Mozilla.ai: ¿Es posible crear una inteligencia artificial confiable?
Si uno se dirige a la página oficial de Mozilla.ai, no encontrará nada más allá de una breve introducción y una sección de contacto, pero eso es más que suficiente: En vez de lanzar un chatbot o modelo propio, el plan de Mozilla.ai es desarrollar un ecosistema de inteligencia artificial open source, descentralizado y confiable, respaldado por herramientas que brindarán seguridad durante la creación de sistemas de recomendaciones y plataformas generativas.
El anuncio en el blog de Mozilla va un poco más allá al mencionar que la inteligencia artificial puede enriquecer la vida de la gente siempre y cuando no se pierdan de vista los intereses de los usuarios, y se prioricen parámetros como transparencia y responsabilidad. Sin embargo, Mozilla no está ofreciendo simples palabras: La inversión inicial en la compañía es de 30 millones de dólares. Habrá que esperar unos meses para conocer los siguientes pasos de Mozilla.ai, pero mi sugerencia es que no tarden demasiado. La «Era de ChatGPT» ya llegó, y el chatbot no está pidiendo permiso que digamos…
Sitio oficial: Haz clic aquí
