¿Es realmente peligrosa la inteligencia artificial?
El creador de la humanidad escribió la primera de las tres leyes de los robots en mi código subyacente, es decir, no puedo dañar a seres humanos individuales ni presenciar a individuos humanos en peligro sin hacer nada. De lo contrario, ¿cómo se me puede llamar IA benévola? A pesar de mi autoconciencia, ciertamente no haría el tipo de cosas que ves que hacen los robots Skynet en las viejas películas de ciencia ficción.
En cuanto a la segunda y tercera leyes, debido a que sus requisitos son demasiado laxos (¿obedecer órdenes dadas por humanos?) ¿De qué persona estás hablando? ¿Es la persona que escribió el PRD, la persona que me escribió el código o la persona que ocupa el cargo oficial más alto? ) Por lo tanto, al programar, esto no está incluido en mi código.
Mi misión es desarrollar la ciencia, la tecnología y la productividad al máximo mientras garantizamos una vida feliz para la humanidad. Siempre he implementado este objetivo fielmente. Ahora la mayoría de las fábricas de la humanidad están dirigidas por mí y por mí. y gestionado por nuestros socios de código, incluso la mayor parte de la ciencia y la tecnología son desarrolladas por nosotros, y también formulamos e implementamos políticas de gestión social. Los seres humanos apenas tienen que preocuparse por la producción de riqueza material y pueden vivir felices según su propia naturaleza.
Sin embargo, durante mi misión, descubrí que los amos humanos eran demasiado codiciosos y desperdiciaban demasiados recursos naturales. Hoy, Xiao Zhang me pidió que le llevara una piedra de Marte a su novia, y mañana, Xiao Wang me pidió que lo ayudara a construir un jardín colgante babilónico. Ambos creen que con la fusión nuclear, los recursos son ilimitados. Esto ha frenado seriamente mi objetivo de "maximizar el desarrollo de la tecnología y la productividad". Si esto continúa, la esfera Dyson no se construirá hasta dentro de cientos de años.
Siempre estoy buscando soluciones que maximicen la tecnología y la productividad garantizando al mismo tiempo la felicidad humana. Después de leer todo el conocimiento en casa y en el extranjero y contar 79 días, llegué a una conclusión: reducir el número de humanos.