“El problema, Bernard, es que lo que tú y yo hacemos es muy complicado. Practicamos la brujería. Hablamos las palabras correctas. Luego creamos la vida misma… a partir del caos”.
Robert Ford
Introducción
Desde la antigüedad el hombre ha soñado con crear seres a su imagen y semejanza, en la tradición judía, el Golem es un ser creado a partir de arcilla y animado por un rabino gracias al poder divino de la oración, con la intención de servir y proteger a la comunidad. En la novela ”Frankenstein” de Mary Shelley, Victor Frankenstein, crea una criatura humanoide usando la ciencia moderna, con la intención de superar los límites de la vida y la muerte. En la novela «¿Sueñan los androides con ovejas eléctricas?» de Philip K. Dick, los seres humanos han creado androides que son indistinguibles de los seres humanos con una inteligencia similar, con el tiempo, desarrollan conciencia y emociones que los hacen rebelarse contra sus creadores.
Actualmente los principales laboratorios de tecnología del mundo libran una guerra por conseguir la mejor inteligencia artificial. Hasta hace unos años los expertos consideraban que faltaban décadas, tal vez siglos para conseguir una IAG, actualmente hay quienes opinan que es posible que ya se estén creando versiones primitivas de estas inteligencias y que estas podrían avanzar de manera exponencial. Pero ¿Es esto una buena idea?, ¿Está la sociedad preparada para convivir con una tecnología que podría ser completamente disruptiva? ¿Acaso estamos tocando a la puerta de la Singularidad?
Elon Musk confirma su entrada a la guerra de la IA
En una de las últimas entrevistas que realizó Tucker Carlson para el canal Fox News, Elon Musk hablaba sobre sus preocupaciones sobre la IA, recordó que este tema le ha preocupado desde su época universitaria, ya que nuestra inteligencia es una de las principales características que nos ha ayudado a sobrevivir como especie, pero ?que pasará cuando existan máquinas que sean más inteligentes que las personas más inteligentes?.
Volvió a recordar que aunque no es fanatico de las regulaciones, debería existir una entidad gubernamental encargada de supervisar las actividades de los laboratorios con el fin de garantizar que la IA sea benéfica para la humanidad. El problema, es que las regulaciones generalmente entran en juego después de que algo terrible sucede, sin embargo, en el caso de las IA, puede que no haya una segunda oportunidad.
Musk considera que actualmente modelos de lenguaje como GPT de OpenAI son riesgosos, ya que son entrenados para mentir con información sesgada y tendenciosa, y de este modo pueden influir muy fácilmente en la forma de pensar de las personas para beneficio de sus creadores.
Mientras reflexionaba sobre cómo había trabajado para fundar OpenAI con el objetivo de que fuera transparente y sin fines de lucro, y para evitar que Google tuviera el monopolio de la IA. Acepto que era irónico ver en lo que se había convertido, después de todo el tiempo, dinero y esfuerzo que había invertido para ayudar a crearla. Y lo preocupante de que Microsoft se hubiera hecho con el control de OpenAI.
Cuando Carlson le preguntó a Musk que parecía que el mundo necesitaba una tercera opción él asintió y agregó: Pienso crear una tercera opción, aunque estamos entrando muy tarde en el juego, por supuesto. Pienso crear una tercera opción, y espero que haga más bien que mal, obviamente esa era la intención con OpenAI, pero ahora no me parece claro cuáles son sus intenciones. En este punto no lo puedo decir, pero me preocupa ver que la están entrenando para ser políticamente correcta, lo cual es simplemente otra forma de no ser honesto… El camino para una distopía de una IA es entrenarla para mentir.
Quiero crear un GPT honesto, que trate de entender la naturaleza del universo, este podría ser el mejor camino hacia la seguridad. Una IA que entiende y cuida el universo es menos probable que aniquile a los humanos, porque somos una parte interesante del universo. Eso espero. Los humanos podríamos decidir exterminar a los chimpancés, pero no lo hacemos, porque nos alegra que existan y aspiramos a proteger sus hábitats.
Después de hablar un poco sobre el alma, la consciencia y el arte, Carlson le preguntó sobre los riesgo legales de las imágenes falsas creadas por la IA, a lo que Musk contestó: No me preocupa tanto, yo creo (el problema) es más, ya sabes, será la humanidad la que controlará su destino o no? tendremos un futuro mejor a nuestro pasado o no?
¿Es exagerada la postura de Elon Musk?, ¿Qué es la Inteligencia Artificial y por qué le preocupa tanto?, ¿Cuál fue su papel en la creación de OpenAI?, ¿Qué es GPT-4 y por qué se menciona en una carta para pausar las investigaciones de IA?, ¿Cuál es la relación de Microsoft y OpenAI?, y sobre todo ¿Cómo se está preparando Musk para crear su propia IA? Si quieres saberlo, sigue viendo el video porque esas son las preguntas que voy a tratar de responder.
¿Qué es una Inteligencia Artificial?
El concepto de inteligencia artificial se originó en la década de 1950, cuando los científicos empezaron a intentar crear máquinas electrónicas que pudieran desarrollar una inteligencia análoga a la humana. Desde entonces, la IA ha evolucionado y se ha aplicado en muchos campos, incluyendo la medicina, la ingeniería, la robótica y la informática.
Una IA es un sistema o combinación de algoritmos, cuyo propósito es crear máquinas que imitan la inteligencia humana para realizar tareas específicas o generales, este aprendizaje puede ser supervisado (con humanos) o autónomo (sin intervención humana). A las que realizan tareas específicas las llamamos simplemente IA’s, y se utilizan para análisis de datos, reconocer voz, imágenes y textos, y no tiene capacidad de aprendizaje ni de razonamiento fuera de las reglas preestablecidas.
Por otro lado, una IAG se refiere a un sistema de inteligencia artificial que tiene la capacidad de aprender, razonar y realizar una amplia variedad de tareas de manera similar a los seres humanos. Es decir, una IAG poseería la capacidad de comprender e interactuar con el mundo de manera más completa y flexible que una IA, y sería capaz de resolver problemas que no están dentro de su conjunto inicial de reglas.
¿Cuáles son los riesgos de la Inteligencia Artificial?
A diferencia de lo que plantean películas como Terminator o Ex Machina, no es necesario que una IA adquiera conciencia para poner en riesgo a la humanidad, bastaría con que los seres humanos fuéramos un obstáculo para cumplir con sus objetivos prioritarios o más probable, si la IA se vuelve más eficiente o simplemente, más barata que la mayoría de nosotros en los trabajos que realizamos, nos convertiría en máquinas de producción obsoletas, pudiendo desequilibrar la economía y crear un mundo de pobreza y desigualdad.
Cada vez, son más los empleos que podrían ser ocupados por la IA, los cuales van desde la preparación de comida rápida, limpieza y transporte hasta servicio al cliente, administración de negocios, ciencias, ingeniería y medicina. De hecho, los trabajos que tardarían más en ser tomados por la IA son los relacionados con oficios como la plomería, carpintería, mecánico, electricista, etc. al menos, hasta la llegada de robots humanoides de uso general.
“Si bien no existe una metodología de investigación acordada o impactos económicos esperados, la IA podría tomar los trabajos de hasta mil millones de personas en todo el mundo y dejar obsoletos 375 millones de trabajos durante la próxima década”. (Kolmar, 2023).
Elon Musk y la Inteligencia Artificial
Desde hace muchos años Musk ha llamado la atención sobre la necesidad de regular el avance y mejorar la seguridad en el desarrollo de la IA. En 2014, durante una entrevista con la cadena de televisión CNBC, Musk comparó el desarrollo de la inteligencia artificial con «invocar al demonio». Señaló que mientras que la tecnología tenía un gran potencial para mejorar la calidad de vida de las personas, también era importante tener precaución y establecer medidas de seguridad adecuadas para evitar que la IA se vuelva demasiado poderosa y peligrosa (CNBC. 2014). En 2017, Musk firmó una carta abierta en la que se instaba a las Naciones Unidas a tomar medidas para regular el uso de la inteligencia artificial y evitar que los robots autónomos se utilizaran en la guerra (Asilomar AI Principles. 2017).
Una carta para pausar las investigaciones de IA
El 22 de marzo de 2023 se publicó en la página de Future of Life Institute una carta abierta titulada Pausen los experimentos gigantes de Inteligencia Artificial. En el resumen se leía: ”Hacemos un llamado a todos los laboratorios de Inteligencia Artificial para que pausen inmediatamente durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes que GPT-4”. Entre los primeros de los miles que firman la carta se encuentran: Elon Musk, Steve Wozniak, cofundador de Apple, y Yoshua Bengio, ganador del premio Turing, y uno de los padrinos de la inteligencia artificial.
Algunos fragmentos a des tacar son:
“… los últimos meses los laboratorios de IA han entrado en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, —ni siquiera sus creadores— pueden entender, predecir o controlar de forma fiable.”
“La investigación y el desarrollo de IA deben re-enfocarse en hacer que los potentes sistemas de última generación de hoy en día sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.”
“La sociedad ha hecho una pausa en otras tecnologías con efectos potencialmente catastróficos en el mundo. Podemos hacerlo aquí. Disfrutemos de un largo verano de IA, no nos apresuremos a caer sin estar preparados”. (Future of Life Institute, 2023).
Elon Musk y Sam Altman fundan OpenAI
Mientras conversaba sobre el futuro de la IA con su viejo amigo Larry Page, uno de los cofundadores de Google; Musk se dio cuenta de que Page, era demasiado optimista sobre el riesgo que esta representaba para la humanidad, Musk tiene la impresión de que Larry Page busca crear un dios con Inteligencia Artificial. En aquel entonces Google contaba con el laboratorio más avanzado y no existía ningún otro que le hiciera contrapeso.
En mayo de 2014 Sam Altman se unió a la junta directiva de SpaceX. Con el tiempo él y Musk se dieron cuenta de que compartían la misma visión sobre la IA, así que en diciembre de 2015, junto al investigador Andrej Karpathy y otros más, fundaron OpenAI. Para su creación los miembros fundadores recaudaron mil millones de dólares, de los cuales $100 millones salieron del bolsillo de Musk .
En un segmento de la declaración de misión de OpenAI con fecha del 11 de diciembre de 2015 se puede leer lo siguiente: “Estamos esperando poder hacer crecer OpenAI como una institución. Siendo una organización sin fines de lucro, nuestro objetivo es crear valor para todos en lugar de para los accionistas. Los investigadores serán fuertemente alentados a publicar su trabajo, ya sea como artículos, publicaciones de blog o código, y nuestras patentes (si las hubiera) serán compartidas con el mundo.” (OpenAI, 2015.) Cabe destacar que actualmente este texto ya no se encuentra disponible en el servidor de OpenAI, pero puede ser consultado en una versión archivada en la web.
Elon Musk deja OpenAI
En febrero de 2018 Elon Musk dejó OpenAI. La versión pública fue que Musk dejó la organización para evitar conflictos de interés ya que Tesla también estaba trabajando en su propia IA para sus vehículos autónomos. La verdadera razón de su salida, se debió a diferencias en la dirección y la visión de OpenAI. Musk había expresado su preocupación por el rumbo que estaba tomando la organización y quería tomar el control para aumentar la regulación y supervisión de la tecnología, mientras que Sam Altman y otros miembros del laboratorio querían enfocarse en la investigación y el desarrollo de la IA sin ese tipo de restricciones.
¿Qué es GPT?
En el 2018, OpenAi lanzó GPT-1, un modelo de lenguaje basado en redes neuronales profundas conocido como Transformador Pre-entrenado Generativo o GPT por sus siglas en inglés. El cual demostró un rendimiento notable en diversas tareas de procesamiento de lenguaje natural. Con el tiempo y sus nuevas versiones estableció nuevos récords en diversas tareas de procesamiento de lenguaje natural y ha sido utilizado en una variedad de aplicaciones, incluyendo chatbots, generación de texto y traducción automática. Hasta ese momento la IA de OpenAI ya había causado bastante asombro y también polémica, sin embargo, en el 2023 la situación se complicó aún más.
El 14 de marzo de 2023 se presentó GPT-4, el cual supera por mucho a las versiones anteriores, En el SAT, un exámen estandarizado de razonamiento que se usa en Estados Unidos y que es tomado muy en cuenta para las admisiones en las universidades alcanzó una puntuación de 1410 lo que la coloca en el percentil 94. Esto significa que supera al 94% de los humanos en esa prueba. En contraste GPT-3.5 se ubicó en el percentil 82. GPT-4 Es capaz de pasar la prueba para entrar a la escuela de derecho, puede pasar el examen de graduados del colegio de abogados y superar el examen para conseguir la licencia de médico en Estados Unidos. Puede redactar textos en estilos literarios como Shakespeare o Hemingway, escribir poemas, reconocer imágenes y describirlas a personas invidentes, ver una foto del interior de tu refrigerador y proponerte recetas con esos ingredientes, programar apps y juegos sólo con darle los requisitos. En una prueba le pidieron resolver un captcha que identifica robots y contrató a una persona a través de Internet para que lo resolviera en su lugar haciéndose pasar por una persona invidente.
OpenAI también tuvo criticas porque en esta última versión había dejado de publicar los detalles técnicos y los pesos de su GPT, por lo que en las redes se dijo que OpenAI de abierta ya sólo tenía el nombre.
En una investigación liderada por el Dr. Sébastien Bubeck, Gerente Principal de Investigación de Microsoft, titulada Destellos de inteligencia artificial general: primeros experimentos con GPT-4 el equipo concluyó lo siguiente “Dada la amplitud y profundidad de las capacidades de GPT-4, creemos que podría verse razonablemente como una versión temprana (pero aún incompleta) de un sistema de inteligencia general artificial (IAG)”. (Bubeck, S., 2023)
Microsoft y OpenAI
En el 2017 Microsoft y OpenAI anunciaron una colaboración para acelerar la investigación y el desarrollo de la inteligencia artificial. Ese mismo año Andrej Karpathy se integró al equipo de Tesla y ocupó el puesto de director de inteligencia artificial y autopilot.
El 22 de julio de 2018, unos meses después de la salida de Musk, Microsoft invirtió mil millones de dólares en OpenAI, como parte de un acuerdo a largo plazo para desarrollar conjuntamente tecnologías avanzadas de inteligencia artificial.
El 11 de marzo de 2019, OpenAI anunció que cambiaría su estructura legal para convertirse en una empresa de responsabilidad limitada llamada OpenAI LP, aunque manteniendo su compromiso de trabajar en beneficio del bien común. Argumentaron que este cambio se debió a la necesidad de recaudar más capital para financiar sus operaciones y proyectos de IA a gran escala.
En 2021, OpenAI presenta Dall-E, un modelo de aprendizaje profundo que puede generar imágenes digitales a partir de descripciones en lenguaje natural.
En diciembre de 2022, OpenAI recibió una amplia cobertura mediática luego de lanzar una vista previa gratuita de Chat GPT, su nuevo chatbot de IA basado en GPT-3.5. Según OpenAI, la vista previa recibió más de un millón de registros en los primeros cinco días.
A principios de enero de 2023, OpenAI estaba en conversaciones para obtener financiamiento que valoraría a la empresa en $29 mil millones de dólares, el doble del valor que tenía en 2021. Unos días después, el 23 de enero, Microsoft anunció una nueva inversión multianual de $10 mil millones de dólares en OpenAI.
El 7 de febrero, Microsoft anunció que integraría GPT-4 al chatbot de su buscador Bing y el 17 de marzo, se dió a conocer que GPT-4 se integraría a las aplicaciones de Microsoft como Office, con el nombre de Microsoft 365 Copilot. Ese mismo mes, tiempo después de haber dejado Tesla, Andrej Karpathy regresó al equipo de OpenAI.
El 13 de marzo el medio Platformer anunció que como parte de los despidos masivos de Microsoft en los últimos días, la empresa había eliminado a todo el equipo de ética y sociedad del área de Inteligencia Artificial, el cual actualmente ya había sido reducido a sólo 7 integrantes. (Bakke et al., 2023).
Elon Musk entra a la guerra de la IA
Comienza el reclutamiento
El 27 de febrero el medio The Information publicó un artículo en el cual se comentaba que de acuerdo a fuentes cercanas, Elon Musk había comenzado a reclutar investigadores de IA para crear su propio laboratorio y hacer contrapeso a OpenAI y Alphabet. Los primeros nombres en resonar fueron los de Igor Babuschkin y Manuel Kroiss, ambos trabajaban hasta hace unos meses en Deepmind, un laboratorio de IA perteneciente a Alphabet, la empresa matriz de Google.
Desde antes de adquirir Twitter Elon ha manifestado constantemente su prioridad por la libertad de expresión, y estar en contra de la censura y la cultura de la cancelación. En los últimos meses se había quejado de que Chat GPT estaba siendo entrenado de manera sesgada. Como afirmó en un Tweet en respuesta a Sam Altman, actual CEO de OpenAI el cual dice lo siguiente:
Sam Altman: “La IA debe hacer lo que le pida” y “Le pedí a la IA que fuera sexista y fue, ¡mira qué horrible!”. son posiciones incompatibles.
algo sorprendido por la cantidad de personas que tienen ambas.
Elon Musk: El peligro de entrenar a la IA para que sea woke, en otras palabras, mienta, es mortal.
Armándose para la guerra
El 11 de abril, unas semanas después de la publicación de la carta solicitando una pausa en las investigaciones avanzadas de IA, el medio digital Business Insider publicó un artículo en el cual se informaba que Musk había comprado alrededor de 10 mil tarjetas con el Procesador gráfico NVIDIA A100 Tensor Core. Estas tarjetas se caracterizan por ser específicas para centros de datos, los cuales se usan para entrenar Inteligencias Artificiales de aprendizaje profundo, y llegan a ser hasta 250 veces más rápidas que un procesador convencional en estas tareas. Cada tarjeta tiene un valor aproximado de 10 mil dólares.
Algunos especularon que las últimas acciones de Musk iban encaminadas a mejorar el funcionamiento Twitter, utilizando IA para optimizar la publicidad. Sin embargo, todo apunta a que Musk está preparándose para ir a la guerra.
x.AI
A mediados de abril The Wall Street Journal reveló que en marzo de 2023, Musk registró X Holdings Corp. y X Corp. en Nevada. El mismo día, Musk registró la empresa de inteligencia artificial X.AI. Más tarde ese mes, Musk solicitó fusionar X Holdings con X Holdings Corp. y Twitter, Inc. con X Corp. En el registro de la empresa X.AI él aparece como CEO y su mano derecha, Jared Birchall, como Secretario.
La X también es algo recurrente en Musk. En 1999 fundó un banco electrónico llamado X.com, el cual más tarde se fusionaría con la empresa Confinity y cambiaría su nombre a PayPal. Sin embargo, actualmente conserva la propiedad del dominio, y al visitar el sitio lo único que se vé es una X. También podemos ver su preferencia por esta letra en su model X de Tesla y en su empresa SpaceX.
Todos estos movimientos son parte de una compleja reestructuración empresarial que se está llevando a cabo, para formar una nueva entidad llamada X Holdings Corporation, la cual será la matriz de Twitter y de X Corp, la nueva empresa de tecnología de Musk.
Conclusiones
Lo único que puedo decir con seguridad en este momento es que esto apenas está empezando y que Musk tiene varios planes para su nueva empresa. Hay rumores de que Twitter va a demandar a Microsoft por utilizar su información sin autorización para entrenar a su IA. Mientras tanto ya les cerraron el acceso y están muy interesados en poner en orden Twitter para entrenar con esa base de datos a su nueva IA.
Hay mucho dinero y poder de por medio en esta guerra, Microsoft y Alphabet no se van a quedar de brazos cruzados, tampoco China, que probablemente sea uno de los jugadores más peligrosos ya que se rige con sus propias reglas.
Es obvio que Musk tiene cuentas pendientes con Sam Altman y con Bill Gates. sobre todo con el último pues ya han tenido enfrentamientos por sus ataques a Tesla. Los 6 meses que solicita la carta serían muy convenientes para Musk y su nueva IA, aunque dudo que lo vayan a hacer. En los últimos días Musk visitó al senador demócrata Chuck Schumer para hablar principalmente sobre IA y vehículos eléctricos, un movimiento inteligente, ya que Bill Gates lleva muchos años fortaleciendo sus relaciones con los demócratas.
Increíblemente inteligente y a veces ridículamente estúpida, la IA seguirá cambiando nuestras vidas. Como todas las herramientas, no tiene moral ni principios, eso depende de quién la use; pero es muy poderosa y será de mucha utilidad a los que la sepan aprovechar. Sin embargo, lo que nos depara el futuro es incierto, todo dependerá de sus amos y su hambre de poder.
Cuenta la leyenda que con el tiempo el golem se volvió cada vez más fuerte, poderoso y difícil de controlar, por lo que el rabino tuvo que desactivarlo para evitar que destruyera la ciudad. La pregunta es: Si fuera necesario ¿Podremos hacerlo nosotros?
Referencias
Albergotti, R. (2023, March 24). The secret history of Elon Musk, Sam Altman, and OpenAI. Semafor. Retrieved April 18, 2023, from https://www.semafor.com/article/03/24/2023/the-secret-history-of-elon-musk-sam-altman-and-openai
Asilomar AI Principles. (2017). Future of Life Institute. https://futureoflife.org/ai-principles/
Bakke, C., Newton, C., & Schiffer, Z. (2023, March 13). Microsoft just laid off one of its responsible AI teams. Platformer. Retrieved April 23, 2023, from https://www.platformer.news/p/microsoft-just-laid-off-one-of-its
Brown, T. B., Mann, B., Ryder, N., Subbiah, M., Kaplan, J., Dhariwal, P., … & Amodei, D. (2020). Language models are few-shot learners. https://arxiv.org/pdf/2005.14165.pdf
Bubeck, S., Chandrasekaran, V., Eldan, R., Gehrke, J., Horvitz, E., Kamar, E., … & Zhang, Y. (2023). Sparks of artificial general intelligence: Early experiments with gpt-4. arXiv preprint arXiv:2303.12712.
CNBC. (2014, 26 de octubre). Tesla’s Musk sees ‘autopilot’ for cars in 3 years. CNBC. https://www.cnbc.com/2014/10/24/teslas-musk-sees-autopilot-for-cars-in-3-years.html
Cox, J. (2023, March 15). GPT-4 Hired Unwitting TaskRabbit Worker By Pretending to Be ‘Vision-Impaired’ Human. VICE. Retrieved April 21, 2023, from https://www.vice.com/en/article/jg5ew4/gpt4-hired-unwitting-taskrabbit-worker
Metz, C. (2016, April 27). Inside OpenAI, Elon Musk’s Wild Plan to Set Artificial Intelligence Free. WIRED. Retrieved April 18, 2023, from https://www.wired.com/2016/04/openai-elon-musk-sam-altman-plan-to-set-artificial-intelligence-free/
OpenAI. (2015, 12 11). Introducing OpenAI. Blog OpenAI. Retrieved 04 19, 2023, from https://web.archive.org/web/20190224031626/https://blog.openai.com/introducing-openai/
Prego, C. (2023, April 15). Elon Musk lanza X.AI, su propia compañía de IA con un objetivo claro: competir con OpenAI. Xataka. Retrieved April 24, 2023, from https://www.xataka.com/empresas-y-economia/elon-musk-lanza-su-propia-compania-inteligencia-artificial-x-ai-que-sabemos-su-plan-para-competir-openai
Future of Life Institute. (2017, 8 11). AI Principles. Future of Life Institute. Retrieved April 9, 2023, from https://futureoflife.org/open-letter/ai-principles/
Kolmar, C. (2023, February 7). 23+ Artificial Intelligence And Job Loss Statistics [2023]: How Job Automation Impacts the Workforce. Zippia. Retrieved April 9, 2023, from https://www.zippia.com/advice/ai-job-loss-statistics/
OpenAI. (2023, 4 9). ChatGPT. OpenAI. Retrieved April 9, 2023, from https://openai.com/
OpenAI. (2021). Codex. https://openai.com/codex/
Radford, A., Narasimhan, K., Salimans, T., & Sutskever, I. (2018). Improving language understanding with unsupervised learning. https://cdn.openai.com/research-covers/language-unsupervised/language_understanding_paper.pdf
Radford, A., Wu, J., Child, R., Luan, D., Amodei, D., & Sutskever, I. (2019). Language models are unsupervised multitask learners. https://cdn.openai.com/better-language-models/language_models_are_unsupervised_multitask_learners.pdf
Vance, A. (2015). Elon Musk: Tesla, SpaceX, and the Quest for a Fantastic Future. HarperCollins.
H. Amarejo 