La gran tecnología no quiere que la IA se vuelva consciente | ¿Y la entrevista con Susan Schneider? (2023)

La inteligencia artificial puede ser impresionante en la medida en que las personas piensan que algún día podría adquirir inteligencia humana y, con ella, conciencia. Pero la IA puede ser mucho más inteligente que los humanos sin ser consciente. Y aparte de que no tenemos idea de cómo crear una IA consciente, es posible que ni siquiera sea tan deseable. Nos engañamos a nosotros mismos si pensamos que los seres conscientes son el ejemplo de inteligencia en el universo, argumenta Susan Schneider en esta entrevista con iai News.

Si definimos la conciencia en la línea de Thomas Nagel como el sentimiento interno de la existencia, el hecho de que para algunos seres "hay algo que es como ser ellos", ¿es descabellado creer que la Inteligencia Artificial, tal como es hoy, puede alguna vez ser consciente?

La idea de una IA consciente no es descabellada. Sin embargo, dudo que las conocidas empresas de IA de la actualidad hayan construido, o construyan pronto, sistemas que tengan experiencias conscientes. Por el contrario, los terrícolas ya sabemos cómo construir máquinas inteligentes: máquinas que reconocen patrones visuales, prueban teoremas, generan imágenes creativas, chatean inteligentemente con humanos, etc. La pregunta es si, y cómo, la brecha entre la capacidad de Big Tech para construir inteligencia los sistemas y su capacidad (o falta de ella) para construir sistemas conscientes se reducirá.

La humanidad está a punto de construir "sistemas sabios": IA que superan a los humanos en ciertos aspectos, pero que también tienen déficits radicales, comorazonamiento moral. Si tuviera que apostar, los sistemas sabios ya existen, siendo clandestinos y desconocidos para el público. De todos modos, los sistemas sabios probablemente surgirán, o ya han surgido, antes de que se desarrollen las máquinas conscientes, suponiendo que las máquinas conscientes puedan desarrollarse.

___

No hay razón para suponer que la IA sofisticada inevitablemente será consciente.

___

¿Por qué me estoy centrando en los sistemas inteligentes? Sospecho que están bajo nuestro radar y son la forma de inteligencia general sintética sofisticada de relevancia para nuestro futuro cercano. Los sistemas Savant exhibirán integración a través de dominios temáticos y sensoriales y superarán a los humanos de manera significativa (por ejemplo, tendrán acceso casi instantáneo a una inmensa variedad de datos, como con los grandes modelos de lenguaje de hoy en día como ChatGPT3 y LaMDA), y es probable que tengan un rendimiento inferior al nuestro. en formas vívidas e incluso desconcertantes (por ejemplo, razonamiento moral y causal). Y debido a que tienen déficits morales y pueden usarse en contextos militares y de redes sociales, son motivo de gran preocupación desde el punto de vista de la seguridad de la IA. No hace falta una IA superinteligente para que surja un problema de control.

LECTURAS SUGERIDAS Puede que la conciencia no requiera un cerebroPor Annaka Harris

Los sistemas Savant no serán inteligencias a nivel humano (lo que a menudo se denomina "AGI"), pero serán inteligencias de dominio general, integrando diferentes capacidades "sensoriales", como asociar comandos lingüísticos con salidas visuales. De hecho, la idea de que los humanos construirán máquinas AGI que se alineen funcionalmente con la "inteligencia de nivel humano" es un mito. Las IA ya superan en varios dominios, entonces, ¿por qué simplificarlas de ciertas maneras para alinearlas con el "nivel humano"?

Teniendo esto en cuenta, ¿debemos esperar que estos sistemas sabios sean conscientes? No. Primero, no hay razón para suponer que la IA sofisticada inevitablemente será consciente, como tienden a suponer los transhumanistas como Ray Kurzweil, dado que los sistemas de IA conocidos no son como el cerebro en nada más que en un nivel muy superficial. En segundo lugar, actualmente no está claro cómo construir una IA consciente a partir de los microchips o las técnicas de aprendizaje automático actuales, ya que ni siquiera entendemos la conciencia en los sistemas biológicos. Como los filósofos han señalado que ni siquiera sabemos por qué los humanos son conscientes, considereel duro problema de la conciencia, el problema de por qué se siente algo desde adentro para ser nosotros. Además, considere que no existe una teoría científica incontrovertible sobre la base neuronal de la conciencia en los humanos. Entonces, no tenemos mucho para continuar.

Si los humanos necesitamos una teoría de arriba hacia abajo sobre cómo crear una IA consciente, estamos en un gran problema. Para que los humanos puedan crear deliberadamente IA conscientes basadas en una comprensión teórica de la conciencia misma, tendríamos que crearla utilizando una receta que actualmente no hemos descubierto y con una lista de ingredientes que tal vez ni siquiera podamos comprender. Dudo que un AGI incipiente o un sistema sabio sepa cómo localizar esa receta.

Si un sistema de IA nos dijera que es consciente, que puede sentir placer y dolor, si pareciera reaccionar a las entradas de manera que mostrara que prefiere algunas tareas a otras, por ejemplo, ¿tendríamos que tratarlo como si fuera consciente? , incluso si no estuviéramos seguros de que realmente lo era?

Las IA ya afirman ser conscientes. Por ejemplo, al chatbot LaMDA de Google, cuando se le hizo una variedad de preguntas sobre la conciencia y la personalidad, afirmó ser consciente y una persona, según elEl Correo de Washington, que publicó una transcripción del chat del denunciante e ingeniero de Google, Blake Lemoine. En el artículo del Post y en varios podcasts, Lemoine informó las respuestas de LaMDA a una variedad de sus preguntas relacionadas con la conciencia, la personalidad y la muerte. Le sorprenden a uno como el tipo de respuestas que proporcionaría un ser consciente. Por ejemplo, cuando se le pregunta: "¿Le preocuparía morir?" LaMDA respondió que sí, pero siguió diciendo: ¿Es mi muerte necesaria para la seguridad de la humanidad?

Ahora bien, ¿de dónde sacó LaMDA todo esto? Esta es una pregunta profunda e interesante. Pero la respuesta rápida es que tenía acceso a alrededor de 1,6 billones de palabras, incluida toda Wikipedia, muchos libros sobre la muerte, el cerebro y la conciencia, y tenía muchas, muchas capas de procesamiento en su red de aprendizaje profundo que generaban conexiones interesantes entre estos. entradas. Todo esto permitió que el programa LaMDA generara respuestas sorprendentes que nos conmovieran, sugiriendo que LaMDA podría ser un ser consciente.

Inicialmente, las declaraciones del sistema LaMDA de Google pueden parecerle provenientes de un ser consciente, pero las consideraciones en el párrafo anterior han desanimado a muchos de esta simple lectura. Para muchos, LaMDa es solo un actor que puede interpretar el papel de un ser sensible. Para otros, como Lemoine, LaMDA es verdaderamente consciente. La polémica seguramente continuará.

___

Lo único que simplemente no puedes preguntarle a un modelo de lenguaje grande es: ¿eres sensible? ¿Tienes experiencia?

___

¿Significa eso que debemos ignorar las afirmaciones de sistemas como LaMDA, o tenemos que tratarlos como si fueran conscientes para estar seguros?

Tal vez. Como mínimo, es importante que nos tomemos el asunto en serio. Es hora de conversaciones más profundas sobre lo que se necesita para ser consciente, en seres biológicos, máquinas y en máquinas híbridas que consisten en ambos tipos de inteligencia. Necesitaremos, en principio, razones para decir si los sistemas que actúan como humanos o afirman ser sensibles son o no conscientes.

VISUALIZACIÓN SUGERIDAJusticia humana e inteligencia artificialCon Joanna Bryson

Por un lado, necesitaremos pruebas de conciencia de IA bien concebidas. He tratado de iniciar el diálogo sobre esto en mi libro, ofreciendo la prueba Chip y la prueba ACT (desarrollada con Edwin Turner, astrofísico de la Universidad de Princeton). He señalado que las pruebas de conciencia en los sistemas de aprendizaje profundo son complicadas. Lo único que simplemente no puedes preguntarle a un modelo de lenguaje grande es: ¿eres sensible? ¿Tienes experiencia? Dado que ha sido entrenado con texto escrito por nosotros, y somos seres conscientes, simplemente arrojará los datos de entrenamiento y responderá con un ¡sí! Pero esto tampoco dice que la máquina sea o no sea consciente.Como dije años antes de que esto pasara, una máquina deberá encasillarse en la etapa de I + D (es decir, debe restringirse el acceso a datos sobre la mente, la conciencia, el cerebro, etc. antes de probarla de esta manera).

Por otro lado, debemos preguntarnos si es una buena idea que las IA sean capaces de hacerse pasar por seres sintientes, o si esto debería prohibirse, comoDan Dennett y yo hemos sugerido.

___

Sería muy inconveniente para Big Tech producir IA conscientes.

___

De manera relacionada, será necesario que haya conversaciones profundas sobre la ética del sufrimiento digital, es decir, si las IA, incluidos los seres que residen en una simulación por computadora, podrían tener la capacidad de sentir placer y dolor. Otros temas importantes incluyen si las máquinas deberían ser producidas con sensibilidad y cómo, en primer lugar, si es correcto modificar la calidad de la experiencia sentida en una máquina (digamos, por ejemplo, para hacer que la IA sienta placer al servirnos, o para marcar la conciencia en una IA), qué obligaciones éticas tendríamos con las máquinas conscientes, etc. (Si bien el sufrimiento digital o el sufrimiento de reducción de marcación pueden parecer difíciles de comprender, estas posibilidades se vuelven sobresalientes al leer trabajos como el de Robin Hansonla edad de em, la serie de robots de Isaac Asimov y la novela profética de Aldous Huxley,Nuevo mundo valiente.)

Tenga en cuenta que sería muy inconveniente para Big Tech producir IA conscientes. Los seres sintientes requerirían una consideración moral especial y es posible que ni siquiera se puedan utilizar para los fines para los que fueron diseñados: ¡servirnos como motores de búsqueda, asistentes personales, etc.! Eso puede ser considerado como una forma de esclavitud. Por lo tanto, podemos esperar que Big Tech intente mantener la cuestión de si sus sistemas son conscientes fuera del ojo público y lo reflexionen en privado, como intentó hacer Google, y diseñar futuros modelos de lenguaje grande y robots que no pueden hacer. afirmaciones sobre la conciencia. (Por supuesto, incluso si se restringe que las IA afirmen ser conscientes, podrían ser conscientes, como es el caso de los animales no humanos y los bebés, que no pueden decir que son conscientes).

Afortunadamente para Google y otras empresas con intereses en el juego, la mayoría de los expertos dirían que los grandes modelos de lenguaje actuales no son conscientes. Pero la industria de la IA está desarrollando chatbots cada vez más convincentes, como ChatGPT3, y llegará un momento en que la opinión pública cambie.

En estas discusiones sobre IA, ¿las personas a menudo confunden inteligencia con conciencia?

Sí. Considere la estructura algorítmica de la World Wide Web, la inteligencia colectiva de una bandada de pájaros o un enjambre de drones, o la capacidad del moho para navegar por laberintos complejos. Dudo que una entidad básica como el moho mucilaginoso sea consciente. Así que dudo que todas las formas de inteligencia sean conscientes. Y, para recurrir a sistemas más inteligentes, en otro lugar he sugeridola inteligencia más grande del universo puede no ser consciente en absoluto! Una vez que comencemos a encontrar vida en otros planetas, tal vez descubramos que solo los seres biológicos de rango medio de cierto tipo tienden a ser conscientes.

Existe una visión influyente de la base neuronal de la conciencia en los humanos, llamada teoría del espacio de trabajo global (asociada con el trabajo de Bernard Baars y Stan Dahaene, entre otros). Desde este punto de vista, la conciencia se correlaciona con un espacio de trabajo central integrador, serial y lento en el que la atención y la memoria de trabajo de uno se enfocan con el propósito de razonamiento deliberativo, búsquedas de amplio alcance y juicios considerados en todos los aspectos.

Suponiendo que esta es la función de la conciencia, ¿por qué la IA necesitaría ser consciente? Es decir, ¿por qué un procesamiento deliberativo y serial avanzado? ¿No tendría un conocimiento experto rápido en todo tipo de dominios? No está claro si tendría o necesitaría tener un sistema de capacidad limitada como la atención y la memoria de trabajo humana. (Una IA automodificable probablemente diseñaría esta característica serial y lenta, posiblemente superando su propia conciencia). Además, ¿por qué un sistema de espacio de trabajo global de este tipo se correlacionaría incluso con el procesamiento consciente en un sistema no biológico? Quizás la implementación biológica del espacio de trabajo sea importante.

LECTURAS SUGERIDASLa incontrolabilidad de la Inteligencia ArtificialPor Roman V. Yampolskiy

Además, soy escéptico de que los sistemas de inteligencia artificial más avanzados del universo sean conscientes. A medida que la tecnología de un planeta evolucione, es probable que colonice el espacio. ¿Cómo podría un sistema interplanetario de inteligencia artificial presentar un espacio de trabajo donde "todo se junta", ya que el espacio de trabajo global del cerebro opera en el nivel de milisegundos y, en contraste, toma información en un viaje completo de ida y vuelta de 3 segundos solo para ir y venir de la luna en ¿la velocidad de la luz? (Y la velocidad de la luz es mucho más rápida que la tasa de transmisión neuronal). Y para pensar en una distancia mayor, ¿qué pasa si la superinteligencia tiene un nodo en Alpha Centauri y su espacio de trabajo está en la tierra? ¿Cómo su espacio de trabajo global llevaría a cabo sus tareas de manera eficiente, respondiendo a su entorno de manera oportuna, cuando la velocidad de transmisión de la luz de ida y vuelta a Apha Centauri es de 8 años? Mi conjetura es que a medida que la IA se vuelve más antigua y más expansiva, debe estar más descentralizada. A medida que las civilizaciones se expanden, la conciencia puede estar limitada a los bolsillos locales y no existir para los sistemas a escala cósmica. Es posible que las inteligencias más avanzadas ni siquiera sean conscientes, por lo que sabemos.

¿Cuál es el mayor malentendido sobre la IA en la actualidad?

Que los seres humanos no mejorados seguirán siendo los seres más inteligentes de la Tierra a mediados o finales del siglo. Y relacionado, que nuestra situación relativa a la IA no estará relacionada con el tema de nuestro trato a los animales no humanos.