¿Puede la inteligencia artificial realmente gobernar a los humanos?
Recientemente, ha habido cada vez más artículos e informes sobre inteligencia artificial. Algunas personas incluso afirman que “con el aumento de la potencia informática de las computadoras, aparecerá en nuestras vidas una poderosa inteligencia artificial, lo que traerá un impacto sin precedentes a la civilización humana”. Estos puntos de vista aparentemente razonables están profundamente arraigados en los corazones de las personas, y muchas personas incluso tienen temores y preocupaciones sobre su futuro.
¿Supondrá realmente la inteligencia artificial una amenaza tan grande para la humanidad?
Muchas dificultades
Para el concepto demasiado amplio de inteligencia artificial, lo dividimos en inteligencia artificial débil (IA débil o IA estrecha) e inteligencia artificial fuerte (IA fuerte o IA amplia). ).
La inteligencia artificial débil es una inteligencia artificial que se ocupa de problemas específicos. AlphaGo es una inteligencia artificial débil que se especializa en reproducir Go en el iPhone. También hay un cuadro de búsqueda. específicamente para Google Inteligencia artificial que proporciona sugerencias de búsqueda: gracias a la "red neuronal artificial" que ahora está en pleno apogeo, nos complace descubrir que la inteligencia artificial débil funciona muy bien y, en algunos casos, es realmente más eficiente que la inteligencia artificial. humanos.
En consecuencia, una inteligencia artificial fuerte simula una mente humana completa. Normalmente usamos si puede pasar la prueba de Turing como criterio para una inteligencia artificial fuerte, pero dicha inteligencia artificial no se ha implementado hasta hoy. Además, hemos soñado despiertos con el concepto de "superinteligencia artificial", que es, como su nombre indica, una inteligencia artificial que es más inteligente que los humanos, que es la situación que más preocupa al arte de ciencia ficción y a los medios populares. pero en la práctica de la inteligencia artificial, tememos decir que esto está más cerca del optimismo ciego. El viaje hacia la búsqueda de una inteligencia artificial fuerte no está tan cerca como el de algunos futuros visionarios, y hay innumerables problemas esperando que los superemos. .
El primer problema que encontramos fue la potencia informática del ordenador.
Aunque las células son pequeñas, son extremadamente complejas, especialmente las neuronas. En la escala más pequeña, una neurona tiene miles de sinapsis que la conectan con otras células, libera o recibe neurotransmisores, reconoce cientos de actividades independientes y luego envía excitaciones neuronales conductoras de alta velocidad que agitan por todo el cerebro una retroalimentación compleja e incierta. Algunas sinapsis también pueden liberar neurotransmisores y hormonas directamente en el líquido cefalorraquídeo, lo que desencadena respuestas más amplias en todo el cuerpo. Hoy han pasado casi 400 años desde que los humanos descubrieron las células. Incluso con las supercomputadoras más poderosas, la microestructura de una sinapsis sólo se construye estáticamente y no se puede simular su actividad completa: hay aproximadamente 86 mil millones de neuronas en el cerebro humano.
Por supuesto, la intersección de la neurociencia y la informática ha producido algunos logros impresionantes. Por ejemplo, etiquetamos las conexiones de 302 neuronas en el gusano Caenorhabditis elegans, y alrededor de 2014 construimos un proyecto de “gusano abierto” para intentar simular un equivalente informático de un gusano virtual, pero el proyecto apenas estaba comenzando. Aún no se han obtenido resultados, pero este objeto de investigación es sorprendentemente simple: es hermafrodita, con 959 células fijadas por todo el cuerpo. El comportamiento de cada célula es específico y fijo, y la actividad neuronal es muy monótona, así lo podemos detallar. Observar y simular utilizando medios actuales.
Sin embargo, si pensamos que el amanecer llega gracias a esta luz de las estrellas, y que los ganglios de C. elegans solo se diferencian del número de neuronas del cerebro humano, siempre y cuando la velocidad de cálculo sea Si lo hacemos lo suficientemente rápido, podremos lograr un salto cualitativo. Eso sería ingenuo.
También nos encontramos con el obstáculo de los parámetros dinámicos.
Como advertimos, con la tecnología actual no podemos simular la actividad completa de las neuronas y hacer que se muevan de forma autónoma en un mundo virtual. Sólo en este proyecto, como ya sabemos cómo se conectan los nervios de los nematodos, podremos darle artificialmente a estas conexiones parámetros dinámicos para hacer que estas neuronas virtuales se muevan, simulando de manera realista un nematodo. Al igual que hacer una pregunta, aunque no sepa cómo hacerlo, puede usar la respuesta hacia atrás para adivinar de abajo hacia arriba; por eso llamamos a este enfoque de abajo hacia arriba.
Sin embargo, en esta etapa, no sólo somos estudiantes pobres, sino que no podemos avanzar sin respuestas. Y los problemas que enfrentamos no tienen precedentes y no tienen respuestas preparadas.
La diferencia entre los nervios de los nematodos y el cerebro humano no es sólo cuantitativa, como el aliento en la boca y un súper tifón. Cuando las unidades básicas forman sistemas complejos a través de varias conexiones, aparecerán nuevas estructuras a mayor escala. Hace tiempo que tenemos una comprensión clara del movimiento de fluidos a pequeña escala, pero eso no significa que podamos deducir las leyes del movimiento del viento.
En primer lugar, las diferencias individuales entre los nematodos son muy pequeñas y las células de diferentes individuos están dispuestas exactamente de la misma manera. Por lo tanto, como un animal de experimentación transparente, hemos descubierto la forma en que se encuentran sus nervios. están conectados desde muy temprano. Pero el cerebro humano no es así en absoluto. Tenemos una enorme cantidad de neuronas que varían ampliamente entre individuos y son altamente plásticas, lo que hace que las neuronas del cerebro de cada persona se conecten de diferentes maneras; en otras palabras, cómo se conectan neuronas específicas y cómo se organizan una gran cantidad de neuronas. en un cuerpo complejo.
Sin embargo, para 65.438 0 neuronas, 65.438 00 neuronas, 65.438 000 neuronas y 65.438 0000 neuronas... por cada aumento de orden de magnitud, la neurona aparecerán nuevos patrones de movimiento en las actividades de las neuronas, desde la forma en que las neuronas procesan la excitación en el nivel más pequeño, hasta la combinación de diferentes vías transmisoras, hasta los módulos funcionales formados por células que procesan diferente información, y luego hasta el cerebro. Estos son problemas que debemos afrontar. Aunque estos estudios dinámicos también están en pleno apogeo, es imposible que dichas investigaciones alcancen una velocidad de "aumento exponencial", y el proceso de reconstrucción de nuestros cerebros humanos tampoco puede alcanzar una velocidad de aumento exponencial.
Por lo tanto, no importa si la informática puede progresar sin problemas, incluso si la velocidad de cálculo de las computadoras realmente puede aumentar exponencialmente, no será posible simular rápidamente un cerebro humano en el futuro previsible: en neurociencia y cerebro Antes de que la ciencia alcance un alto nivel de madurez, el cerebro siempre será una caja negra, y todavía nos resulta difícil saber qué sucede en el cerebro en diferentes niveles durante actividades intelectuales específicas. Y de manera más realista, a medida que nuestro conocimiento del cerebro humano se amplíe gradualmente, descubriremos más y más preguntas nuevas.
Cuanto más sabemos, más ignorantes nos encontramos. Desafortunadamente, el verdadero problema está por venir: necesitamos nuevos principios informáticos.
Hay que tener en cuenta que en la enorme cuestión de si se puede realizar la "inteligencia", la velocidad de funcionamiento de la computadora no es decisiva. En el reino animal actual, los elefantes africanos y los calderones de patas largas tienen cerebros más pesados y más neuronas que los humanos. ¿Por qué les falta inteligencia? ¿Qué pasa con los componentes del circuito que se basan en la misma anatomía pero tienen principios completamente diferentes?
Los componentes del circuito están hechos de metales y semiconductores, y la velocidad de transmisión de la señal es cercana a la velocidad de la luz. De hecho, es mucho más rápida que el impulso de las neuronas, pero también es mucho más monótona. Cualquier reacción de los componentes del circuito solo puede obtener un resultado fijo, y solo se pueden desarrollar cálculos lógicos de primer orden basados en y, o, y. Todos los programas informáticos previsibles hoy y en el futuro son operaciones lógicas de primer orden, con distintos grados de complejidad.
La "lógica de primer orden" ya es muy poderosa y acerca toda la era de la información del siglo XXI a los humanos de hoy, pero solo puede partir de unos pocos datos iniciales y deducirlos paso a paso basándose en datos previos. -Instrucciones almacenadas, nunca cruza la línea. Esto le da a la computadora esa valiosa confiabilidad, pero también pierde su abstracción, razonamiento y creatividad aún más valiosos: la lógica de segundo orden y superior en la que tenemos que ser capaces de definir predicados.
Por ejemplo, ante el comando "a b", la computadora solo sumará A y B según las reglas de la suma, pero para las personas con lógica de segundo orden, también pensaremos en el significado. de suma y preguntar "¿Qué tipo de operación es la suma?" Luego, podremos pensar en el significado de "operación" en lógica de tercer orden y preguntar "¿Cómo especificar una operación?". El significado de "regulación" en la lógica de cuarto orden. Se preguntará "¿Qué tipo de comportamiento se puede llamar regulación en matemáticas?".
Este tipo de dudas se remontan a tiempos indefinidos. Teóricamente, la mente humana es capaz de tener una "lógica infinita de orden superior" y seguimos demostrando esta capacidad a lo largo de la historia de la filosofía.
Para la gente común, también podemos probar un juego de pensamiento, que las computadoras no pueden hacer de todos modos: pensar en algo, luego pensar "estoy pensando", luego pensar "estoy pensando" y luego pensar "estoy pensando" "... Aunque consume mucho cerebro, en teoría podemos continuar de forma recursiva.
Sí, todas las computadoras hoy en día tienen lógica de primer orden, y puede haber intentos de lógica de segundo orden en algunos laboratorios, pero en cualquier caso, los problemas de lógica de alto orden no pueden reducirse a lógica de bajo orden. — —Nunca podremos explicar qué es la suma a través de la suma misma, es como un anuncio en la televisión.
En otras palabras, incluso si utilizamos una potencia informática sin precedentes y una increíble cantidad de trabajo para encontrar cada parámetro en el cerebro, mientras el principio de la computadora permanezca sin cambios, estamos usando lógica de bajo orden para simular Lógica de alto orden: —Esto es matemáticamente imposible, los programadores encontrarán que algunos parámetros clave no se pueden definir y un cerebro duramente simulado sigue siendo una inteligencia artificial débil.
Esta es una pregunta difícil. Incluso en otros caminos planificados, el hecho de que utilicemos algoritmos evolutivos u otros modelos en el futuro está de nuestro lado. Necesitamos una computadora revolucionaria que pueda realizar cálculos lógicos de alto orden, pero de todas las cosas conocidas, sólo el cerebro puede hacer esto, lo que plantea un nuevo dilema: simular el cerebro requiere nuevas computadoras, investigar nuevas computadoras requiere una comprensión profunda del cerebro. . Por supuesto, éste no es un problema irresoluble, del mismo modo que fabricar nuevas máquinas requiere nuevos materiales y sintetizar nuevos materiales requiere nuevas máquinas. Lo hemos visto innumerables veces en la historia del avance tecnológico. No hay motivos para pensar que esta vez vamos a perder, pero tenemos que estar preparados mentalmente porque será un camino largo.
Estos problemas vendrán uno tras otro. La inteligencia artificial es la ciencia aplicada más compleja en esta era. No hay razón para pensar que podamos resolver fácilmente todos los problemas con el avance de la informática, y mucho menos dar un paso atrás. Tenemos un problema más práctico que afrontar.
Obstáculos éticos
La ética es la cuestión más realista para cualquier nueva tecnología revolucionaria. Hemos sido testigos antes del impacto de las medidas anticonceptivas en la ética. Pensar que la ética es vulnerable frente a la tecnología es subestimar el poder de la ética. Los demagogos pueden utilizar conceptos sin sentido como el "derecho a saber" para confundir la mente de las personas y causar grandes olas en el campo de la seguridad alimentaria. Entonces, a partir de hoy, las preocupaciones sobre la inteligencia artificial se acumularán durante décadas o incluso cientos de años, independientemente de si son razonables o no, y se formará una ética sólida.
Dejando de lado el horror de que la "inteligencia artificial extermine a la humanidad", en lo que respecta a la cuestión más práctica, el público definitivamente estará preocupado por si una inteligencia artificial fuerte tiene emociones y si es un hombre de hojalata con un corazón. Sin embargo, esta es una cuestión que no se menciona en la definición de inteligencia artificial fuerte.
A diferencia de otras actividades conscientes, las ricas y delicadas emociones de los seres humanos son producto de la evolución cuando los humanos coordinan las relaciones grupales como animales sociales, y no son una necesidad para la inteligencia. Es posible que una inteligencia artificial fuerte no posea estas características, pero ciertamente puede comprender este comportamiento: imaginemos a una persona que nace sin emociones, pero que, a través de una observación cuidadosa y una imitación excelente, se convierte en un intérprete impecable. Ya sea que estuviera llorando o riendo en el escenario, no había ninguna onda en su corazón, como si hubiera completado la gimnasia más compleja con sus extremidades y músculos faciales; esto es probablemente lo que sucedió en la película "Ex Machina".
La emoción se ha considerado durante mucho tiempo la característica más crítica del libre albedrío, por lo que tenemos que imaginar que en un futuro así, será la inteligencia artificial la que distinga si una inteligencia artificial fuerte realmente tiene sentimientos o simplemente está jugando una mala pasada. La cuestión más importante en este campo es también la tortura más profunda cuando el ser humano se enfrenta a sí mismo. Cualquiera que sea el resultado, significa que el viejo mundo ético ya no existe: ¿deberíamos reconocerlo como persona? Además, ¿tiene “él” los derechos humanos más básicos según el derecho sustantivo aplicable? ¿Aún podemos mantenerlo en el laboratorio?
A continuación imaginaremos cuán poderosa puede ser la inteligencia artificial al usar sus propios sentimientos para ganarse la confianza de los humanos, luchar por la igualdad de trato y luchar por los derechos civiles. El sentimiento de una fuerte inteligencia artificial puede ser sólo un disfraz, pero la compasión y la bondad inherentes a los corazones humanos son hechos indiscutibles.
En una perspectiva de futuro así, la investigación sobre una inteligencia artificial fuerte estará casi con toda seguridad sujeta a restricciones estrictas, al igual que ahora tratamos la tecnología de la clonación: hemos dominado las habilidades de clonar mamíferos en el último siglo, pero en el futuro previsible, este mundo No habrá clones.
O para decirlo de manera más arbitraria, no importa si la tecnología está madura o no, no permitiremos que surja fácilmente una inteligencia artificial fuerte con una mente completa. Es posible que desarrollemos varias versiones gravemente debilitadas de inteligencia artificial potente en los laboratorios más importantes del mundo, convirtiéndonos en muestras preciosas de la ciencia cognitiva y la informática. No es realista imaginar que una inteligencia artificial fuerte nazca en el campo civil, como "Immortal Enemy" o "Westworld".
Finalmente, tenemos que volver a reflexionar sobre la predicción del futuro: una sociedad pacífica puede no despertar el interés de la gente, por lo que siempre "miramos hacia adelante" en la ola de cambio, pero olvidamos que la revolución científica puede acelerarse. Ha acelerado el ritmo de la exploración humana y de cambiar el mundo, pero el proceso cognitivo humano nunca ha sido fácil. Los espectadores elogian los logros de la cosecha, pero prestan poca atención a las dificultades de la labranza. El optimismo ciego es un defecto del que nunca podrán deshacerse.