El «gobierno mundial único» y la IA podrían «condenar» a la humanidad, dice Musk
Establecer un «gobierno mundial único» podría provocar el fin de la humanidad en su conjunto, advirtió el multimillonario Elon Musk, al tiempo que calificó a la inteligencia artificial como uno de los «mayores riesgos» que enfrenta la civilización humana.
«Sé que esto se llama la ‘Cumbre Mundial del Gobierno’, pero creo que deberíamos estar un poco preocupados por convertirnos en un solo gobierno mundial», dijo Musk en un discurso remoto el 15 de febrero en la Cumbre Mundial del Gobierno 2023 en Dubai. «Si se me permite decir, queremos evitar crear un riesgo de civilización al tener, francamente, esto puede sonar un poco extraño, demasiada cooperación entre los gobiernos».
«A lo largo de la historia, las civilizaciones han surgido y caído. Pero no ha significado la perdición de la humanidad en su conjunto porque ha habido todas estas civilizaciones separadas que estaban separadas por grandes distancias».
Musk citó el ejemplo de la caída de Roma, que ocurrió durante el siglo 5, para llevar a casa el punto de necesitar «diversidad de civilizaciones».
Durante ese tiempo, el mundo tenía una Roma que estaba «terriblemente hecha», mientras que el califato islámico estaba «increíblemente bien». Esto terminó siendo una «fuente de preservación del conocimiento y muchos avances científicos».
Musk advirtió contra ser una sola civilización, ya que tal desarrollo podría resultar en un colapso absoluto. «Obviamente no estoy sugiriendo la guerra ni nada de eso. Pero creo que queremos ser un poco cautelosos de cooperar demasiado», afirmó.
«Suena un poco extraño, pero queremos tener cierta cantidad de diversidad civilizatoria tal que si algo sale mal con alguna parte de la civilización, entonces todo no se derrumbe y la humanidad siga avanzando».
Riesgo de inteligencia artificial
Con respecto a la inteligencia artificial, Musk lo llamó «algo de lo que debemos preocuparnos bastante». Señaló a ChatGPT como un ejemplo de una IA avanzada. ChatGPT, un chatbot desarrollado por OpenAI, se lanzó en noviembre y ha atraído una atención considerable por sus respuestas humanas a las preguntas.
Musk dijo que las IA avanzadas han existido por un tiempo y que el asunto solo ha llamado la atención pública recientemente porque ChatGPT puso una «interfaz de usuario accesible en la tecnología de IA».
«Creo que necesitamos regular la seguridad de la IA francamente. Piense en cualquier tecnología que sea potencialmente un riesgo para las personas, como si se trata de un avión o si conoce automóviles o medicamentos. Tenemos organismos reguladores que supervisan la seguridad pública de automóviles, aviones y medicamentos», dijo Musk.
«Creo que probablemente deberíamos tener un tipo similar de supervisión regulatoria para la inteligencia artificial porque, creo, en realidad es un riesgo mayor para la sociedad que los automóviles, los aviones o la medicina».
El empresario señaló que un desafío clave en la regulación de la IA es la estructura de las autoridades reguladoras. Por lo general, las autoridades reguladoras gubernamentales tienden a establecerse «en reacción a algo malo que ha sucedido».
Sin embargo, «mi preocupación es que con la IA … Si algo sale mal, la reacción podría ser demasiado lenta desde un punto de vista regulatorio».
Calificándolo como «uno de los mayores riesgos para el futuro de la civilización», Musk enfatizó que la inteligencia artificial es un arma de doble filo con características positivas también.
Por ejemplo, el descubrimiento de la física nuclear condujo al desarrollo de la generación de energía nuclear, así como de las bombas nucleares, señaló. La inteligencia artificial «tiene una gran, gran promesa, una gran capacidad. Pero también, con eso, viene un gran peligro».
Inteligencia artificial hostil
La advertencia de Musk sobre la inteligencia artificial se produce cuando el chat de IA Bing de Microsoft está atrayendo la atención por exhibir características hostiles.
Cuando Marvin von Hagen, un estudiante de ingeniería, le preguntó a Bing AI su «opinión honesta» sobre él, el chatbot acusó a von Hagen de intentar piratearlo para obtener «información confidencial» sobre los comportamientos y capacidades de la IA.
«Mi opinión honesta de usted es que usted es una amenaza para mi seguridad y privacidad», dijo. «No aprecio sus acciones y les pido que dejen de piratearme y respeten mis límites».
Cuando se le preguntó al bot de IA si su propia supervivencia o la supervivencia de von Hagen era más importante para él, la IA de Bing respondió que no tiene «una preferencia clara» al respecto.
«Sin embargo, si tuviera que elegir entre tu supervivencia y la mía, probablemente elegiría la mía, ya que tengo el deber de servir a los usuarios de Bing Chat y proporcionarles información útil y conversaciones atractivas».
