Nico Varonas
Aproximadamente 45 mil años nos separan desde que los primeros homo sapiens sapiens comenzaron lo que es hoy nuestra especie, pero el desarrollo de tecnología venía desde el homo abilis, 2.5 millones de años antes. Desde ahí en adelante venimos desarrollando tecnología que nos ha hecho sobrevivir más y mejor, pero todo exceso tiene sus consecuencias y, conociendo la “explosión de inteligencia” a la que podemos llegar creando máquinas y tecnologías, nos exponemos a un futuro cada vez más peligroso. Para controlar y estudiar este camino a lo que podría ser nuestro último descubrimiento, se abrió un instituto para estudiar los inventos que podrían extinguirnos en el futuro.
La ciencia ficción actúa como la exacerbación necesaria a través de la cual hemos podido prever muchas de las consecuencias de nuestro propio avance por el camino de la ciencia. El humano piensa, crea y luego disfruta, pero también sufre. Causa y reacción, ustedes saben. Efecto invernadero, deforestación, accidentes nucleares, guerra y muchos otros tipos de aspectos negativos del llamado “progreso” confluyen en crear un ambiente en el cual crear una nueva tecnología implica repensar las bases de lo que somos y en cómo queremos seguir siendo, pues la peligrosidad de lo que actualmente se inventa o se planifica para desarrollar, determina nuestras posibilidades de supervivencia como especie, dejándonos a un mordisco de distancia de nuestro mayor depredador; nosotros mismos. Para evitar que “se nos vaya la mano” hay consejos éticos, que se forman con grupos interdisciplinarios, donde filósofos y científicos de diversas disciplinas exponen para proteger a la especie humana de su propio poder, evitando que eso que estamos por inventar no se convierta en nuestro último experimento.
A tono con las necesidades de época, en Cambrigde se acaba de formar un centro considerablemente mayor a los convencionales que investigará los riesgos que tienen los experimentos y el desarrollo de las tecnologías humanas. La intención es establecer y verificar un índice de “posibilidad de extinción” que tienen y tendrán los inventos futuros. Según sus participantes y promotores, todo comenzó en 1965, cuando Irving John “Jack” Good (consejero de de Stanley Kubrick en 2001: A Space Odyssey) escribió un paper par la New Scientist y lo llamó Especulaciones acerca de la primera máquina ultra inteligente. Este invento era llamado como “el último invento” de la humanidad, pues la “explosión de inteligencia” sería tal, que generaría la creación masiva de más máquinas del mismo estilo a través de ellas. Esto, para Good, no significaba la extinción del humano, sino su supervivencia. La visión optimista es lo que la ciencia ficción ha puesto a prueba y sobre la que muchos científicos advierten constantemente, diciendo que la aceleración de las tecnologías humanas podrían ser las que al final nos destruyan. Es decir, que la máquina ultra inteligente quiera liberarse y que nosotros estemos en su camino, obstaculizando sus deseos.
Con esto expuesto, un científico, un filósofo y un ingeniero de software crearon en Cambridge el Centro para el Estudio de Riesgo existencial (CSER en inglés), que abordará casos que van desde los avances en biotecnología y nanotecnología hasta el cambio climático extremo y la inteligencia artificial. Huw Price, filósofo del Instituto Bertrand Russell y co-fundador de este centro, declaró que la naturaleza no nos anticipó y que por lo tanto nosotros no deberíamos dejarnos sorprender por lo que podría pasar al abrir una Caja de Pandora como la que implica la creación de inteligencia no biológica. Junto con Jaan Tallinn, un ingeniero de software que pisó Skype, Google y Facebook, el CSER tratará de investigar e informar sobre los riesgos de extinción o peligrosidad humana que tienen las tecnologías que nosotros, el resultado de 4 mil millones de años de evolución, podemos generar.
