Machine Translated by Google
ANÁLISIS CONCEPTUAL publicado:
Editado por:
Esma Aïmeur,
Universidad de Montreal, Canadá
Revisado por:
Cesar Collazos,
Universidad del Cauca, Colombia
Ranilson Oscar Araújo Paiva,
Universidad Federal de Alagoas, Brasil
*Correspondencia: JE
(Hans). Korteling
hans.korteling@tno.nl
Sección de especialidad:
Este artículo fue enviado a
IA para el aprendizaje humano y
Cambio de
comportamiento, una sección de la revista.
Fronteras de la inteligencia artificial
Recibido: 29 de octubre de 2020
Aceptado: 01 de febrero de 2021
Publicado: 25 de marzo de 2021
Citación:
Korteling JE(H), van
de Boer­Visschedijk GC, Blankendaal
RAM, Boonekamp RC y Eikelboom AR
(2021) Inteligencia humana versus
inteligencia artificial.
Frente. Artif. Intel. 4:622364.
dos: 10.3389/frai.2021.622364
Fronteras de la Inteligencia Artificial | www.frontiersin.org
25 de marzo de 2021 doi:
10.3389/frai.2021.622364
Inteligencia humana versus inteligencia artificial
JE (Hans). Korteling *, GC van de Boer­Visschedijk, RAM Blankendaal, RC
Boonekamp y AR Eikelboom
TNO Human Factors, Soesterberg, Países Bajos
La IA es uno de los temas más debatidos en la actualidad y parece haber poco entendimiento común
sobre las diferencias y similitudes entre la inteligencia humana y la artificial.
Los debates sobre muchos temas relevantes, como la confiabilidad, la explicabilidad y la ética, se
caracterizan por concepciones antropocéntricas y antropomorfistas implícitas y, por ejemplo, la
búsqueda de una inteligencia similar a la humana como estándar de oro para la Inteligencia Artificial.
Para proporcionar más acuerdo y fundamentar posibles objetivos de investigación futuros, este artículo
presenta tres nociones sobre las similitudes y diferencias entre la inteligencia humana y la artificial: 1)
las limitaciones fundamentales de la inteligencia humana (y artificial), 2) la inteligencia humana como
una de muchas formas posibles de inteligencia general, y 3) el alto impacto potencial de múltiples
formas (integradas) de aplicaciones de IA híbridas estrechas. Por el momento, los sistemas de IA
tendrán cualidades y capacidades cognitivas fundamentalmente diferentes a las de los sistemas
biológicos. Por esta razón, una de las cuestiones más importantes es cómo podemos utilizar (y
“colaborar” con) estos sistemas de la manera más eficaz posible. ¿Para qué tareas y bajo qué
condiciones es seguro dejar las decisiones en manos de la IA y cuándo se requiere el juicio humano?
¿Cómo podemos aprovechar las fortalezas específicas de la inteligencia humana y artificial?
¿Cómo implementar sistemas de IA de manera efectiva para complementar y compensar las
limitaciones inherentes a la cognición humana (y viceversa)? ¿Deberíamos buscar el desarrollo de
“socios” de IA con inteligencia humana (de nivel) o deberíamos centrarnos más en complementar las
limitaciones humanas? Para responder a estas preguntas, los seres humanos que trabajan con
sistemas de IA en el lugar de trabajo o en la formulación de políticas deben desarrollar un modelo
mental adecuado de los mecanismos "psicológicos" subyacentes de la IA. Por lo tanto, para obtener
sistemas humanos­IA que funcionen bien, la conciencia de la inteligencia en los humanos debe
abordarse con más fuerza. Para ello se propone un primer marco de contenidos educativos.
Palabras clave: inteligencia humana, inteligencia artificial, inteligencia artificial general, inteligencia artificial a nivel humano, complejidad cognitiva, inteligencia
artificial restringida, colaboración entre humanos e IA, sesgo cognitivo
INTRODUCCIÓN: INTELIGENCIA ARTIFICIAL Y HUMANA,
MUNDOS DE DIFERENCIA
Inteligencia artificial general a nivel humano Los avances recientes en la
tecnología de la información y en la IA pueden permitir una mayor coordinación e integración
entre los humanos y la tecnología. Por lo tanto, se ha prestado bastante atención al desarrollo de
la IA Human­Aware, cuyo objetivo es que la IA se adapte como “miembro del equipo” a las
posibilidades y limitaciones cognitivas de los miembros del equipo humano. También metáforas
como “compañero”, “compañero”, “alter ego”, “colaborador inteligente”, “compañero” y
“comprensión mutua” enfatizan un alto grado de colaboración, similitud e igualdad en los “equipos
híbridos”. Cuando los socios de IA conscientes de las personas operan como "colaboradores humanos", debe
1 marzo 2021 | Volumen 4 | Artículo 622364
Machine Translated by Google
Korteling et al.
sentir, comprender y reaccionar ante una amplia gama de cualidades
complejas del comportamiento humano, como la atención, la motivación,
la emoción, la creatividad, la planificación o la argumentación (p. ej.,
Krämer et al., 2012; van den Bosch y Bronkhorst, 2018; van den Bosch et
al., 2019). Por lo tanto, estos “socios de IA” o “compañeros de equipo”
deben estar dotados de capacidades cognitivas similares a las humanas
(o humanoides) que permitan la comprensión y la colaboración mutuas (es
decir, la “conciencia humana”).
Sin embargo, no importa cuán inteligentes y autónomos se vuelvan los
agentes de IA en ciertos aspectos, al menos en el futuro previsible,
probablemente seguirán siendo máquinas inconscientes o dispositivos de
propósito especial que apoyan a los humanos en tareas específicas y
complejas. Como máquinas digitales, están equipadas con un sistema
operativo completamente diferente (digital versus biológico) y con
cualidades y habilidades cognitivas correspondientemente diferentes a las
de las criaturas biológicas, como los humanos y otros animales (Moravec,
1988; Klein et al., 2004; Korteling et al. , 2018a; Shneiderman, 2020a). En
general, los agentes digitales de razonamiento y resolución de problemas
solo se comparan muy superficialmente con sus contrapartes biológicas
(por ejemplo, Boden, 2017; Shneiderman, 2020b). Teniendo esto en
cuenta, se vuelve cada vez más importante que los profesionales humanos
que trabajan con sistemas de IA avanzados (por ejemplo, en equipos
militares o de formulación de políticas) desarrollen un modelo mental
adecuado sobre las diferentes capacidades cognitivas de los sistemas de
IA en relación con la cognición humana. Esta cuestión será cada vez más
relevante cuando los sistemas de IA se vuelvan más avanzados y se
implementen con mayores grados de autonomía.
Por lo tanto, el presente artículo intenta proporcionar más claridad y
comprensión sobre las características, diferencias e idiosincrasias
fundamentales de las inteligencias humana/biológica y artificial/digital. En
la sección final, se presenta un marco global para la construcción de
contenidos educativos sobre esta “Conciencia de Inteligencia”. Esto se
puede utilizar para el
desarrollo de programas de educación y capacitación para humanos que
tengan que utilizar o “colaborar con” sistemas avanzados de IA en un futuro
cercano y lejano.
Con la aplicación de sistemas de IA con una autonomía cada vez
mayor, cada vez más investigadores consideran la necesidad de abordar
enérgicamente los problemas reales y complejos de la “inteligencia a nivel
humano” y, más ampliamente, la inteligencia artificial general, o AGI, (por ejemplo,
Goertzel et al., 2014). Ya se han propuesto muchas definiciones diferentes
de A(G)I (por ejemplo, Russell y Norvig, 2014 para una descripción
general). Muchos de ellos se reducen a: tecnología que contiene o implica
inteligencia (similar a la humana) (por ejemplo, Kurzweil, 1990). Esto es
problemático. La mayoría de las definiciones utilizan el término “inteligencia”
como elemento esencial de la definición misma, lo que hace que la
definición sea tautológica. En segundo lugar, la idea de que A(G)I deba
parecerse a un ser humano parece injustificada. Al menos en entornos
naturales existen muchas otras formas y manifestaciones de
comportamientos inteligentes y altamente complejos que son muy diferentes
de las capacidades cognitivas humanas específicas (ver Grind, 1997 para una descripción
racionales general).
Finalmente, como también se ve con frecuencia en el campo de la biología,
estas definiciones de A(G)I utilizan la inteligencia humana como base o
analogía central para el razonamiento sobre el fenómeno menos familiar
de A(G)I (Coley y Tanner, 2012). Debido a las muchas diferencias entre el
sustrato subyacente y la arquitectura de la inteligencia biológica y artificial,
esta forma antropocéntrica de
Fronteras de la Inteligencia Artificial | www.frontiersin.org
Inteligencia humana versus artificial
El razonamiento probablemente no esté justificado. Por estas razones
proponemos una definición (no antropocéntrica) de “inteligencia” como: “la
capacidad de realizar objetivos complejos” (Tegmark, 2017). Estos objetivos
pueden pertenecer a tareas estrechas y restringidas (IA estrecha) o a
dominios de tareas amplios (AGI). Sobre la base de esta definición y de
una definición de AGI propuesta por Bieger et al. (2014) y uno de Grind
(1997), aquí definimos AGI como: “Capacidades no biológicas para lograr
de forma autónoma y eficiente objetivos complejos en una amplia gama de
entornos”. Los sistemas AGI deberían poder identificar y extraer las
características más importantes para su funcionamiento y proceso de
aprendizaje de forma automática y eficiente en una amplia gama de tareas
y contextos. La investigación relevante sobre AGI se diferencia de la
investigación ordinaria sobre IA al abordar la versatilidad y la totalidad de
la inteligencia y al llevar a cabo la práctica de la ingeniería de acuerdo con
un sistema comparable a la mente humana en cierto sentido (Bieger et al.,
2014).
Será fascinante crear copias de nosotros mismos que puedan aprender
de forma iterativa mediante la interacción con socios y así poder colaborar
sobre la base de objetivos comunes y comprensión y adaptación mutuas
(por ejemplo, Bradshaw et al., 2012; Johnson et al., 2014). . Esto sería muy
útil, por ejemplo, cuando un alto grado de inteligencia social de la IA
contribuya a interacciones más adecuadas con los humanos, por ejemplo
en el ámbito de la atención sanitaria o con fines de entretenimiento
(Wyrobek et al., 2008). La verdadera colaboración basada en objetivos
comunes y comprensión mutua implica necesariamente alguna forma de
inteligencia general humanoide. Por el momento, este sigue siendo un
objetivo en un horizonte lejano. En el presente artículo argumentamos por
qué para la mayoría de las aplicaciones también puede no ser muy práctico
o necesario (y probablemente un poco engañoso) apuntar vigorosamente
o anticipar sistemas que poseen AGI "similares a los humanos" o
habilidades o cualidades "similares a las humanas". . El hecho de que los
humanos posean inteligencia general no implica que las nuevas formas
inorgánicas de inteligencia general deban cumplir con los criterios de la
inteligencia humana. En este sentido, el presente artículo aborda la forma
en que pensamos sobre la inteligencia (natural y artificial) en relación con
los potenciales más probables (y los problemas reales por venir) de la IA
en el futuro a corto y mediano plazo. Esto dará que pensar en anticipación
a un futuro que es difícil de predecir para un campo tan dinámico como la
IA.
¿Qué es la “inteligencia real”?
Implícita en nuestra aspiración de construir sistemas AGI que posean
inteligencia humanoide está la premisa de que la inteligencia humana
(general) es la forma "real" de inteligencia. Esto incluso ya está
implícitamente articulado en el término “Inteligencia Artificial”, como si no
fuera del todo real, es decir, real como la inteligencia (biológica) no
artificial. De hecho, como humanos nos conocemos como las entidades
con mayor inteligencia jamás observada en el Universo. Y como una
extensión de esto, nos gusta vernos a nosotros mismos como seres
capaces de resolver una amplia gama de problemas complejos
en todo tipo de circunstancias utilizando nuestra experiencia e intuición,
complementadas con las reglas de la lógica, el análisis de decisiones y la
estadística. Por lo tanto, no es sorprendente que tengamos algunas
dificultades para aceptar la idea de que podríamos ser un poco menos
inteligentes de lo que nos decimos a nosotros mismos, es decir, “el próximo
insulto a la humanidad” (van Belkom, 2019). Esto llega tan lejos que el
2 marzo 2021 | Volumen 4 | Artículo 622364
Machine Translated by Google
Korteling et al.
Los rápidos avances en el campo de la inteligencia artificial van acompañados de
una redefinición recurrente de lo que debería considerarse “inteligencia real
(general)”. La conceptualización de la inteligencia, es decir, la capacidad de lograr
objetivos complejos de forma autónoma y eficiente, se ajusta continuamente y se
restringe aún más a: “aquellas cosas que sólo los humanos pueden hacer”. En
consonancia con esto, la IA se define entonces como “el estudio de cómo hacer que
las computadoras hagan cosas en las que, en este momento, las personas son
mejores” (Rich y Knight, 1991; Rich et al., 2009). Esto incluye pensar en soluciones
creativas, utilizar de manera flexible información contextual y de fondo, el uso de la
intuición y el sentimiento, la capacidad de realmente “pensar y comprender” o la
inclusión de la emoción en una consideración (ética). Estos se citan luego como
elementos específicos de la inteligencia real (p. ej.
Bergstein, 2017). Por ejemplo, el director de IA de Facebook y portavoz en el campo,
Yann LeCun, mencionó en una conferencia en el MIT sobre el futuro del trabajo que
las máquinas aún están lejos de tener "la esencia de la inteligencia". Eso incluye la
capacidad de comprender el mundo físico lo suficientemente bien como para hacer
predicciones sobre aspectos básicos del mismo: observar una cosa y luego utilizar
conocimientos previos para descubrir qué otras cosas también deben ser ciertas.
Otra forma de decir esto es que las máquinas no tienen sentido común (Bergstein,
2017), como los submarinos que no pueden nadar (van Belkom, 2019). Cuando las
capacidades humanas exclusivas se convierten en nuestros puntos de navegación
fundamentales en el horizonte, es posible que pasemos por alto algunos problemas
importantes que tal vez requieran nuestra atención en primer lugar.
Para aclarar este punto, primero brindaremos una idea de la naturaleza básica
de la inteligencia humana y artificial. Esto es necesario para fundamentar una
conciencia adecuada de la inteligencia (Intelligence Awareness) y una investigación
y educación adecuadas que anticipen el desarrollo y la aplicación de la A(G)I.
Por el momento, esto se basa en tres nociones esenciales que pueden (y deben)
desarrollarse más en un futuro próximo.
• En cuanto a las tareas cognitivas, probablemente seamos menos inteligentes
de lo que pensamos. Entonces, ¿por qué deberíamos centrarnos enérgicamente
en una AGI similar a
la humana? • Son posibles muchas formas diferentes de inteligencia y, por lo
tanto, la inteligencia general no es necesariamente la misma que la inteligencia
general humanoide (o “AGI a nivel humano”). • El ingreso bruto
ajustado a menudo no es necesario; Muchos problemas complejos también se
pueden abordar de manera efectiva utilizando múltiples IA estrechas.1
PROBABLEMENTE NO SOMOS TAN INTELIGENTES COMO
NOSOTROS PENSAMOS
¿Qué tan inteligentes somos en realidad? La respuesta a esa pregunta está
determinada en gran medida por la perspectiva desde la que se considera esta
cuestión y, por tanto, por las medidas y criterios de inteligencia que se elijan. Por
ejemplo, podríamos comparar la naturaleza y las capacidades de la inteligencia
humana con otras especies animales. En ese caso parecemos muy inteligentes.
Gracias a nuestro
1
La IA estrecha puede definirse como la producción de sistemas que muestran inteligencia
respecto de tareas específicas y altamente restringidas, como jugar al ajedrez, el
reconocimiento facial, la navegación autónoma o la locomoción (Goertzel et al., 2014).
Fronteras de la Inteligencia Artificial | www.frontiersin.org
Inteligencia humana versus artificial
Con una enorme capacidad de aprendizaje, tenemos, con diferencia, el arsenal más
extenso de capacidades cognitivas2 para resolver de forma autónoma problemas
complejos y lograr objetivos complejos. De esta manera podemos resolver una
enorme variedad de problemas aritméticos, conceptuales, espaciales, económicos,
socioorganizativos, políticos, etc. Los primates, que difieren sólo ligeramente de
nosotros en términos genéticos, están muy por detrás de nosotros en ese sentido.
Por lo tanto, podemos calificar legítimamente a los humanos, en comparación con
otras especies animales que conocemos, como altamente inteligentes.
Capacidad cognitiva limitada Sin embargo, también
podemos mirar más allá de esta “perspectiva relativa entre especies” y tratar de
calificar nuestra inteligencia en términos más absolutos, es decir, utilizando una
escala que va desde cero hasta lo que es físicamente posible. Por ejemplo,
podríamos ver la capacidad computacional de un cerebro humano como un sistema
físico (Bostrom, 2014; Tegmark, 2017). La noción predominante a este respecto
entre los científicos de IA es que la inteligencia es, en última instancia, una cuestión
de información y computación y (por tanto) no de carne, sangre y átomos de
carbono. En principio, no existe ninguna ley física que impida que los sistemas
físicos (compuestos por quarks y átomos, como nuestro cerebro) puedan construirse
con una potencia de cálculo e inteligencia mucho mayores que el cerebro humano.
Esto implicaría que no existe una razón física insuperable por la cual las máquinas
algún día no puedan volverse mucho más inteligentes que nosotros en todos los
aspectos posibles (Tegmark, 2017). Por lo tanto, nuestra inteligencia es relativamente
alta en comparación con la de otros animales, pero en términos absolutos puede
estar muy limitada en su capacidad de computación física, aunque sólo sea por el
tamaño limitado de nuestro cerebro y su número máximo posible de neuronas y
células de glía (por ejemplo, Kahle, 1979).
Para definir y evaluar mejor nuestra propia inteligencia (biológica), también
podemos discutir la evolución y la naturaleza de nuestras capacidades de
pensamiento biológico. Como red neuronal biológica de carne y hueso, necesaria
para la supervivencia, nuestro cerebro ha pasado por un proceso de optimización
evolutiva de más de mil millones de años.
En este período prolongado, se convirtió en un sistema altamente eficaz y eficiente
para regular funciones biológicas esenciales y realizar tareas perceptivas­motoras y
de reconocimiento de patrones, como recolectar alimentos, luchar y volar, y
aparearse. Casi durante toda nuestra evolución, las redes neuronales de nuestro
cerebro se han ido optimizando aún más para estos procesos biológicos y
perceptivos motores básicos que también son la base de nuestras habilidades
prácticas diarias, como la cocina, la jardinería o las tareas domésticas. Posiblemente
debido a la competencia resultante para este tipo de tareas podemos olvidar que
estos procesos se caracterizan por una complejidad computacional extremadamente
alta (por ejemplo, Moravec, 1988). Por ejemplo, cuando nos atamos los cordones
de los zapatos, muchos millones de señales entran y salen a través de un gran
número de sistemas sensores diferentes, desde los cuerpos tendinosos y los husos
musculares de las extremidades hasta la retina, los órganos otolíticos y los canales
semicirculares de la cabeza. (por ejemplo , Brodal, 1981). Esta enorme cantidad de
información proveniente de muchos sistemas perceptivo­motores diferentes es
continua, paralela, sin esfuerzo e incluso sin
2
Las habilidades cognitivas implican pensamiento deliberado, conceptual o analítico (p. ej.,
cálculo, estadística, análisis, razonamiento, abstracción)
3 marzo 2021 | Volumen 4 | Artículo 622364
Machine Translated by Google
Korteling et al.
atención consciente, procesada en las redes neuronales de nuestro cerebro
(Minsky, 1986; Moravec, 1988; Grind, 1997). Para lograrlo, el cerebro
dispone de una serie de mecanismos de trabajo universales (inherentes),
como la asociación y el aprendizaje asociativo (Shatz, 1992; Bar, 2007), la
potenciación y la facilitación (Katz y Miledi, 1968; Bao et al., 1997),
saturación e inhibición lateral (Isaacson y Scanziani, 2011; Korteling et al.,
2018a).
Este tipo de capacidades biológicas y perceptivo­motoras básicas se
han desarrollado y establecido a lo largo de muchos millones de años.
Mucho más tarde en nuestra evolución (en realidad, muy recientemente),
nuestras capacidades cognitivas y funciones racionales comenzaron a
desarrollarse. Estas habilidades o capacidades cognitivas tienen
probablemente menos de 100 mil años, lo que puede calificarse como
“embrionarias” en la escala temporal de la evolución (por ejemplo, Petraglia
y Korisettar, 1998; McBrearty y Brooks, 2000; Henshilwood y Marean,
2003). ). Además, esta capa muy delgada de logros humanos se ha
construido necesariamente sobre estas inteligencias neuronales “antiguas”
para funciones esenciales de supervivencia. Así, nuestras capacidades
cognitivas “superiores” se desarrollan a partir de y con estos mecanismos
de regulación (neuro)biológica (Damasio, 1994; Korteling y Toet, 2020).
Como resultado, no debería sorprender que las capacidades de nuestro
cerebro para realizar estas funciones cognitivas recientes sean todavía
bastante limitadas. Estas limitaciones se manifiestan de muchas maneras
diferentes, por ejemplo:
­La cantidad de información cognitiva que podemos procesar
conscientemente (nuestra memoria de trabajo, lapso o atención) es muy
limitada (Simon, 1955). La capacidad de nuestra memoria de trabajo es
de aproximadamente 10 a 50 bits por segundo (Tegmark, 2017).
­La mayoría de tareas cognitivas, como leer un texto o realizar cálculos,
requieren toda nuestra atención y normalmente necesitamos mucho
tiempo para ejecutarlas. Las calculadoras móviles pueden realizar
cálculos millones de veces más complejos que nosotros (Tegmark, 2017).
­Aunque podemos procesar mucha información en paralelo, no podemos
ejecutar simultáneamente tareas cognitivas que requieran deliberación y
atención, es decir, “multitarea” (Korteling, 1994; Rogers y Monsell, 1995;
Rubinstein, Meyer y Evans, 2001) .
­Los conocimientos y habilidades cognitivas adquiridas por las personas
(memoria) tienden a decaer con el tiempo, mucho más que las habilidades
perceptivo­motoras. Debido a esta “retención” limitada de información,
olvidamos fácilmente porciones sustanciales de lo que hemos aprendido
(Wingfield y Byrnes, 1981).
Sesgos cognitivos arraigados Nuestra limitada
capacidad de procesamiento de tareas cognitivas no es el único factor que
determina nuestra inteligencia cognitiva. Excepto por una capacidad de
procesamiento general limitada, el procesamiento de la información cognitiva
humana muestra distorsiones sistemáticas. Estos se manifiestan en muchos
sesgos cognitivos (Tversky y Kahneman, 1973, Tversky y Kahneman, 1974).
Los sesgos cognitivos son tendencias, inclinaciones o disposiciones
sistemáticas y universales que sesgan o distorsionan los procesos de
información de manera que sus resultados sean inexactos, subóptimos o
simplemente incorrectos (por ejemplo, Lichtenstein y Slovic, 1971; Tversky
y Kahneman, 1981). Muchos sesgos ocurren prácticamente de la misma
manera en muchas situaciones de decisión diferentes (Shafir y LeBoeuf,
Fronteras de la Inteligencia Artificial | www.frontiersin.org
Inteligencia humana versus artificial
2002; Kahneman, 2011; Toet et al., 2016). La literatura proporciona
descripciones y demostraciones de más de 200 sesgos. Estas tendencias
son en gran medida implícitas e inconscientes y se sienten de forma
bastante natural y evidente cuando somos conscientes de estas inclinaciones
cognitivas (Pronin et al., 2002; Risen, 2015; Korteling et al., 2018b). Por eso
a menudo se les llama “intuitivos” (Kahneman y Klein, 2009) o “irracionales”
(Shafir y LeBoeuf, 2002).
El razonamiento sesgado puede dar lugar a resultados bastante aceptables
en situaciones naturales o cotidianas, especialmente cuando se tiene en
cuenta el coste de tiempo del razonamiento (Simon, 1955; Gigerenzer y
Gaissmaier, 2011). Sin embargo, las personas a menudo se desvían de la
racionalidad y/o de los principios de la lógica, el cálculo y la probabilidad de
maneras desaconsejables (Tversky y Kahneman, 1974; Shafir y LeBoeuf,
2002) , lo que lleva a decisiones subóptimas en términos de tiempo y
esfuerzo (costos) invertidos. la información disponible y los beneficios
esperados.
Los sesgos son causados en gran medida por características y
mecanismos inherentes (o estructurales) del cerebro como red neuronal
(Korteling et al., 2018a; Korteling y Toet, 2020).
Básicamente, estos mecanismos (como la asociación, la facilitación, la
adaptación o la inhibición lateral) dan como resultado una modificación de
los datos originales o disponibles y su procesamiento (por ejemplo,
ponderación de su importancia). Por ejemplo, la inhibición lateral es un
proceso neuronal universal que resulta en la magnificación de las diferencias
en la actividad neuronal (aumento del contraste), lo cual es muy útil para las
funciones perceptivo­motoras, manteniendo la integridad física y la alostasis
(es decir, funciones de supervivencia biológica). Para estas funciones
nuestro sistema nervioso ha sido optimizado durante millones de años.
Sin embargo, las funciones cognitivas “superiores”, como el pensamiento
conceptual, el razonamiento probabilístico o el cálculo, se han desarrollado
sólo muy recientemente en la evolución. Estas funciones probablemente
tienen menos de 100 mil años y, por lo tanto, pueden calificarse como
“embrionarias” en la escala temporal de la evolución (por ejemplo, McBrearty
y Brooks, 2000; Henshilwood y Marean, 2003; Petraglia y Korisettar, 2003).
Además, la evolución no pudo desarrollar estas nuevas funciones cognitivas
desde cero, sino que tuvo que construir esta delgada y embrionaria capa de
logro humano a partir de su “antigua” herencia neuronal para las funciones
biológicas esenciales de supervivencia (Moravec, 1988). Dado que las
funciones cognitivas suelen requerir cálculos exactos y una ponderación
adecuada de los datos, las transformaciones de datos (como la inhibición
lateral) pueden conducir fácilmente a distorsiones sistemáticas (es decir,
sesgos) en el procesamiento de la información cognitiva. Ejemplos del gran
número de sesgos causados por las propiedades inherentes de las redes
neuronales biológicas son: el sesgo de anclaje (sesgo de decisiones hacia
información previamente adquirida, Furnham y Boo, 2011; Tversky y
Kahneman, 1973, Tversky y Kahneman, 1974), el sesgo de retrospectiva (la
tendencia a percibir erróneamente los eventos como inevitables o más
probables una vez que han ocurrido, Hoffrage et al., 2000; Roese y Vohs,
2012) el sesgo de disponibilidad (juzgar la frecuencia, importancia o
probabilidad de un evento por la facilidad con que Me vienen a la mente
ejemplos relevantes, Tversky y Kahnemann, 1973; Tversky y Kahneman,
1974), y el sesgo de confirmación (la tendencia a seleccionar, interpretar y
recordar información de una manera que confirme las propias ideas
preconcebidas, puntos de vista y expectativas, Nickerson, 1998). ). Además
de estas limitaciones (estructurales) inherentes a las redes neuronales
(biológicas), los sesgos también pueden
4 marzo 2021 | Volumen 4 | Artículo 622364
Machine Translated by Google
Korteling et al.
se originan a partir de principios evolutivos funcionales que promueven la
supervivencia de nuestros antepasados quienes, como cazadores­recolectores,
vivían en grupos pequeños y muy unidos (Haselton et al., 2005; Tooby y
Cosmides, 2005). Los sesgos cognitivos pueden ser causados por un desajuste
racionalizado
entre lo evolutivo (“racionalidad “heurística”
evolutiva”: Haselton et al., 2009) y el contexto o
entorno actual (Tooby y Cosmides, 2005). Desde este punto de vista, las mismas
heurísticas que optimizaron las posibilidades de supervivencia de nuestros
antepasados en su entorno (natural) pueden conducir a un comportamiento
desadaptativo (sesgado) cuando se utilizan en nuestros entornos (artificiales)
actuales.
Los sesgos que se han considerado como ejemplos de este tipo de desajuste
son el sesgo de acción (preferir la acción incluso cuando no existe una
justificación racional para hacerlo, Baron y Ritov, 2004; Patt y Zeckhauser, 2000),
la prueba social (la tendencia a reflejar o copiar las acciones y opiniones de
otros, Cialdini, 1984), la Tragedia de los comunes (priorizar los intereses
personales sobre el bien común de la comunidad, Hardin, 1968), y el Sesgo
Ingrupal (favorecer al propio grupo por encima del de los demás, Taylor y Doria,
1981).
Este carácter intrínseco (neuralmente inherente y/o evolutivo arraigado) del
pensamiento sesgado hace que sea poco probable que métodos simples y
directos como las intervenciones de capacitación o los cursos de concientización
sean muy efectivos para mejorar los sesgos. Esta dificultad para mitigar el sesgo
parece respaldada por la literatura (Korteling et al., 2021).
LA INTELIGENCIA GENERAL NO ES LA
IGUAL QUE LA INTELIGENCIA HUMANA
Diferencias fundamentales entre la inteligencia biológica y la
artificial A menudo pensamos y deliberamos sobre la inteligencia
teniendo en mente una concepción antropocéntrica de nuestra propia inteligencia
como referencia obvia e inequívoca. Tendemos a utilizar esta concepción como
base para razonar sobre otros fenómenos de inteligencia menos familiares,
como otras formas de inteligencia biológica y artificial (Coley y Tanner, 2012).
Esto puede dar lugar a preguntas e ideas fascinantes.
Un ejemplo es la discusión sobre cómo y cuándo se alcanzará el punto de
“inteligencia a nivel humano”. Por ejemplo, Ackermann. (2018) escribe: “Antes
de llegar a la superinteligencia, la IA general significa que una máquina tendrá
las mismas capacidades cognitivas que un ser humano”.
Por lo tanto, los investigadores deliberan extensamente sobre el momento en el
que alcanzaremos la IA general (por ejemplo, Goertzel, 2007; Müller y Bostrom,
2016). Suponemos que este tipo de preguntas no dan en el blanco. Hay (en
principio) muchos tipos diferentes posibles de inteligencia (general) concebibles,
de los cuales la inteligencia humana es sólo uno de ellos. Esto significa, por
ejemplo, que el desarrollo de la IA está determinado por las limitaciones de la
física y la tecnología, y no por las de la evolución biológica. Entonces, así como
la inteligencia de un hipotético visitante extraterrestre de nuestro planeta Tierra
probablemente tenga una estructura (in)orgánica diferente.
Fronteras de la Inteligencia Artificial | www.frontiersin.org
Inteligencia humana versus artificial
con características, fortalezas y debilidades diferentes a las de los residentes
humanos, esto también se aplicará a las formas artificiales de inteligencia
(general). A continuación resumimos brevemente algunas diferencias
fundamentales entre la inteligencia humana y la artificial (Bostrom, 2014):
­Estructura básica: la inteligencia biológica (carbono) se basa en "wetware"
neuronal que es fundamentalmente diferente de la inteligencia artificial
(basada en silicio). A diferencia del software húmedo biológico, en el silicio o
en los sistemas digitales, el “hardware” y el “software” son independientes
entre sí (Kosslyn y Koenig, 1992). Cuando un sistema biológico ha aprendido
una nueva habilidad, ésta estará limitada al sistema mismo. Por el contrario,
si un sistema de IA ha aprendido una determinada habilidad, los algoritmos
que lo constituyen se pueden copiar directamente a todos los demás sistemas
digitales similares.
­Velocidad: Las señales de los sistemas de IA se propagan casi a la velocidad
de la luz. En los seres humanos, la velocidad de conducción de los nervios
se produce a una velocidad de como máximo 120 m/s, lo cual es
extremadamente lento en la escala de tiempo de las computadoras (Siegel y Sapru, 2005).
­Conectividad y comunicación: Las personas no pueden comunicarse
directamente entre sí. Se comunican mediante lenguaje y gestos con un
ancho de banda limitado. Esto es más lento y difícil que la comunicación de
la IA.
Sistemas que se pueden conectar directamente entre sí.
Gracias a esta conexión directa, también pueden colaborar sobre la base de
algoritmos integrados.
­Actualización y escalabilidad: los sistemas de IA casi no tienen restricciones
con respecto a mantenerlos actualizados o mejorarlos y/o reconfigurarlos, de
modo que tengan los algoritmos correctos y las capacidades de procesamiento
y almacenamiento de datos necesarios para las tareas que tienen. llevar a
cabo.
Esta capacidad de expansión rápida y estructural y de mejora inmediata
difícilmente se aplica a las personas.
­En cambio, la biología hace mucho con poco: los cerebros orgánicos son
millones de veces más eficientes en el consumo de energía que los
ordenadores. El cerebro humano consume menos energía que una bombilla,
mientras que una supercomputadora con un rendimiento computacional
comparable usa suficiente electricidad para alimentar toda una aldea
(Fischetti, 2011).
Este tipo de diferencias en estructura básica, velocidad, conectividad,
capacidad de actualización, escalabilidad y consumo de energía también
conducirán necesariamente a diferentes cualidades y limitaciones entre la
inteligencia humana y la artificial. Nuestra velocidad de respuesta a estímulos
simples es, por ejemplo, miles de veces más lenta que la de los sistemas
artificiales. Los sistemas informáticos pueden conectarse muy fácilmente
directamente entre sí y, como tales, pueden formar parte de un sistema integrado.
Esto significa que los sistemas de IA no tienen que verse como entidades
individuales que pueden trabajar fácilmente juntas o tener malentendidos mutuos.
Y si dos sistemas de IA están involucrados en una tarea, entonces corren un
riesgo mínimo de cometer un error debido a faltas de comunicación (pensemos
en los vehículos autónomos que se acercan a un cruce). Después de todo, son
partes intrínsecamente conectadas del mismo sistema y del mismo algoritmo
(Gerla et al., 2014).
5 marzo 2021 | Volumen 4 | Artículo 622364
Machine Translated by Google
Korteling et al.
Complejidad y paradoja de Moravec Debido a que los
cerebros biológicos, basados en el carbono, y las computadoras digitales,
basadas en el silicio, están optimizados para tipos de tareas completamente
diferentes (por ejemplo, Moravec, 1988; Korteling et al., 2018b), la
inteligencia humana y artificial muestran resultados fundamentales y
probablemente diferencias muy amplias. Debido a estas diferencias,
puede resultar muy engañoso utilizar nuestra propia mente como base,
modelo o analogía para razonar sobre la IA. Esto puede dar lugar a
concepciones erróneas, por ejemplo sobre las supuestas capacidades de
los humanos y de la IA para realizar tareas complejas. Los fallos
resultantes en relación con las capacidades de procesamiento de
información surgen a menudo en la literatura psicológica en la que
"complejidad" y "dificultad" de las tareas se utilizan indistintamente
(véanse, por ejemplo, Wood et al., 1987; McDowd y Craik, 1988). La
complejidad de la tarea se evalúa entonces de manera antropocéntrica,
es decir, según el grado en que los humanos podemos realizarla o
dominarla. Entonces, utilizamos la dificultad para realizar o dominar una
tarea como una medida de su complejidad, y el desempeño de la tarea
(velocidad, errores) como una medida de la habilidad e inteligencia de
quien la realiza. Aunque esto a veces podría ser aceptable en la
investigación psicológica, puede resultar engañoso si nos esforzamos por
comprender la inteligencia de los sistemas de IA. Para nosotros es mucho
más difícil multiplicar dos números aleatorios de seis cifras que reconocer
a un amigo en una fotografía. Pero cuando se trata de contar o de
operaciones aritméticas, los ordenadores son miles de veces más rápidos
y mejores, mientras que los mismos sistemas han dado recientemente
pasos en el reconocimiento de imágenes (lo que sólo tuvo éxito cuando
se introdujo la tecnología de aprendizaje profundo, basada en algunos
principios de las redes neuronales biológicas). desarrollado). En general:
las tareas cognitivas que son relativamente difíciles para el cerebro
humano (y que, por lo tanto, encontramos subjetivamente difíciles) no
tienen por qué ser computacionalmente complejas (por ejemplo, en
términos de aritmética objetiva, lógica y operaciones abstractas). Y
viceversa: las tareas que son relativamente fáciles para el cerebro
(reconocer patrones, tareas perceptivo­motoras, tareas bien entrenadas)
no tienen por qué ser computacionalmente simples. Este fenómeno, que
es fácil para la antigua “tecnología” neuronal de las personas y difícil para
la moderna tecnología digital de las computadoras (y viceversa), se ha
denominado la Paradoja de Moravec. Hans Moravec (1988) escribió: “Es
comparativamente fácil hacer que las computadoras muestren un
rendimiento de nivel adulto en pruebas de inteligencia o jugando a las
damas, y difícil o imposible darles las habilidades de un niño de un año en lo que personasa se ven obligadas
Inteligencia perceptual­motora superior humana
La paradoja de directamente sobre la base de datos. datos muy complejos. Por lo tanto,
Moravec implica que las redes neuronales biológicas son o la ejecución de tareas cognitivas específicas (estrechas) (lógicas,
inteligentes de diferentes maneras que las redes neuronales artificiales.
analíticas, computacionales), la inteligencia digital moderna puede ser
La inteligencia no se limita a los problemas u objetivos que a nosotros,
como seres humanos, equipados con inteligencia biológica, nos resultan
difíciles (Grind, 1997). La inteligencia, definida como la capacidad de
alcanzar objetivos complejos o resolver problemas complejos, es mucho
más que eso. Según Moravec (1988), el razonamiento de alto nivel
requiere muy poca computación, pero las habilidades perceptivo­motoras
de bajo nivel requieren enormes recursos computacionales. Si expresamos
la complejidad de un problema en términos del número de cálculos
elementales necesarios para resolverlo, entonces nuestra percepción biológicacuestiones complejas. Entonces, la cooperación y división de tareas entre las personas
Fronteras de la Inteligencia Artificial | www.frontiersin.org
Inteligencia humana versus artificial
La inteligencia motora es muy superior a nuestra inteligencia cognitiva.
Nuestra inteligencia perceptivo­motora orgánica es especialmente buena
en el procesamiento asociativo de invariantes de orden superior
(“patrones”) en la información ambiental. Estos son computacionalmente
más complejos y contienen más información que los elementos
individuales simples (Gibson, 1966, Gibson, 1979). Un ejemplo de
nuestras capacidades perceptivo­motoras superiores es el efecto de
superioridad del objeto: percibimos e interpretamos objetos completos
más rápido y más eficazmente que los elementos individuales (más
simples) que componen estos objetos (Weisstein y Harris, 1974;
McClelland, 1978; Williams y Weisstein, 1978; Pomerantz, 1981). Así, las
letras también se perciben con mayor precisión cuando se presentan
como parte de una palabra que cuando se presentan de forma aislada,
es decir, el efecto de superioridad de la palabra (por ejemplo, Reicher,
1969; Wheeler, 1970). Por tanto, la dificultad de una tarea no indica
necesariamente su complejidad inherente. Como lo expresa Moravec
(1988) : “Todos somos atletas olímpicos prodigiosos en las áreas perceptiva y motora, t
El pensamiento abstracto, sin embargo, es un truco nuevo, quizás de
menos de 100.000 años. Aún no lo hemos dominado. No es tan
intrínsecamente difícil; simplemente lo parece cuando lo hacemos”.
La suposición de una AGI similar a la humana Entonces, si
existieran sistemas de IA con inteligencia general que puedan usarse
para una amplia gama de problemas y objetivos complejos, esas
máquinas AGI probablemente tendrían un perfil de inteligencia
completamente diferente, incluidas otras cualidades cognitivas, que el los
humanos tienen (Goertzel, 2007). Esto será así incluso si logramos
construir agentes de IA que muestren un comportamiento similar al
nuestro y si se les permite adaptarse a nuestra forma de pensar y resolver
problemas para promover la colaboración entre humanos y IA. A menos
que decidamos degradar deliberadamente las capacidades de los
sistemas de IA (que no serían muy inteligentes), las capacidades y
habilidades subyacentes del hombre y las máquinas con respecto a la
recopilación y el procesamiento de información, el análisis de datos, el
razonamiento de probabilidad, la lógica, la capacidad de memoria, etc.
seguirán siendo diferentes. Debido a estas diferencias, deberíamos
centrarnos en sistemas que nos complementen eficazmente y que hagan
que el sistema humano­IA sea más fuerte y eficaz. En lugar de perseguir
la IA a nivel humano, sería más beneficioso centrarse en máquinas
autónomas y sistemas (de apoyo) que llenen o amplíen las múltiples
lagunas de la inteligencia cognitiva humana. Por ejemplo, mientras que
lasrespecta
percepción (por la lentitud
y movilidad. " y otras limitaciones de los
cerebros biológicos) a pensar heurísticamente en términos de objetivos,
virtudes, reglas y normas expresadas en un lenguaje (borroso), la IA ya
ha establecido excelentes capacidades para procesar y calcular
más efectiva y eficiente que la inteligencia biológica. Por lo tanto, la IA
puede ayudar a producir mejores respuestas a problemas complejos
utilizando grandes cantidades de datos, conjuntos consistentes de
principios y objetivos éticos, y razonamiento probabilístico y lógico (por
ejemplo, Korteling et al., 2018b). Por lo tanto, conjeturamos que, en última
instancia, el desarrollo de sistemas de inteligencia artificial para apoyar la
toma de decisiones humanas puede parecer la forma más eficaz de
conducir a mejores decisiones o al desarrollo de mejores soluciones en
6 marzo 2021 | Volumen 4 | Artículo 622364
Machine Translated by Google
Korteling et al.
Los sistemas tendrán que estar determinados principalmente por sus
cualidades mutuamente específicas. Por ejemplo, las tareas o los componentes
de las tareas que apelan a capacidades en las que sobresalen los sistemas
de IA tendrán que ser menos (o menos completamente) dominados por las
personas, por lo que probablemente se requerirá menos capacitación. Los
sistemas de IA ya son mucho mejores que las personas a la hora de recopilar
(seleccionar) y procesar (pesar, priorizar, analizar, combinar) grandes
cantidades de datos de forma lógica y aritméticamente correcta. Lo hacen de
forma rápida, precisa y fiable. También son más estables (consistentes) que
los humanos, no tienen estrés ni emociones y tienen una gran perseverancia
y una retención de conocimientos y habilidades mucho mejor que las
personas. Como máquinas, sirven a las personas completamente y sin
ningún “interés propio” o “agenda oculta propia”. Basándose en estas
cualidades, los sistemas de IA pueden asumir eficazmente tareas o
componentes de tareas de las personas. Sin embargo, sigue siendo
importante que las personas sigan dominando esas tareas hasta cierto punto,
para que puedan asumirlas o tomar las medidas adecuadas si falla el sistema de lapensamientos
máquina.
En general, las personas están mejor preparadas que los sistemas de IA
para un espectro mucho más amplio de tareas cognitivas y sociales en una
amplia variedad de circunstancias y eventos (imprevistos) (Korteling et al.,
2018b). Por el momento, las personas también son mejores en la interacción
social y psicosocial. Por ejemplo, a los sistemas de IA les resulta difícil
interpretar el lenguaje y los simbolismos humanos. Esto requiere un marco
de referencia muy amplio que, al menos hasta ahora y en el futuro próximo,
es difícil de lograr dentro de la IA. Como resultado de todas estas diferencias,
las personas aún responden mejor (como equipo flexible) a situaciones
inesperadas e impredecibles y diseñan creativamente posibilidades y
soluciones en tareas abiertas y mal definidas y en una amplia gama de
situaciones diferentes, y posiblemente inesperadas. circunstancias. Las
personas tendrán que hacer un uso adicional de sus cualidades humanas
específicas (es decir, aquello en lo que son relativamente buenas) y
capacitarse para mejorar las competencias pertinentes. Además, los miembros
del equipo humano tendrán que aprender a desenvolverse bien con las
limitaciones generales de las IA. Con una división de tareas tan adecuada,
aprovechando las cualidades y limitaciones específicas de los humanos y los
sistemas de IA, se pueden evitar los sesgos de decisión humanos y se puede
esperar un mejor desempeño. Esto significa que mejorar un equipo con
máquinas inteligentes que tengan menos limitaciones y sesgos cognitivos
puede tener más plusvalía que esforzarse por lograr la colaboración entre
humanos y IA que han desarrollado los mismos sesgos (humanos). Aunque
la cooperación en equipos con sistemas de IA puede necesitar capacitación
adicional para abordar eficazmente este sesgo y desajuste, esta
heterogeneidad probablemente será mejor y más segura. Esto también abre
la posibilidad de una combinación de altos niveles de control humano
significativo Y altos niveles de automatización que probablemente produzcan
los sistemas humanos­IA más efectivos y seguros (Elands et al., 2019;
Shneiderman, 2020a). En resumen: la inteligencia humana no es el estándar
de oro para la inteligencia general; En lugar de apuntar a una AGI similar a la
humana, la búsqueda de una AGI debería centrarse en una AGI digital/de
silicio eficaz junto con una configuración y asignación óptimas de tareas.
Explicabilidad y confianza Los avances
en relación con el aprendizaje artificial, o el aprendizaje profundo (por
refuerzo), en particular, han sido revolucionarios. El aprendizaje profundo
simula una red parecida
Fronteras de la Inteligencia Artificial | www.frontiersin.org
Inteligencia humana versus artificial
las redes neuronales en capas de nuestro cerebro. Basándose en grandes
cantidades de datos, la red aprende a reconocer patrones y vínculos con un
alto nivel de precisión y luego los conecta con cursos de acción sin conocer
los vínculos causales subyacentes.
Esto implica que es difícil proporcionar a la IA de aprendizaje profundo algún
tipo de transparencia sobre cómo o por qué ha tomado una decisión particular,
por ejemplo, expresando un razonamiento inteligible (para los humanos)
sobre su proceso de decisión, como lo hacemos nosotros ( por ejemplo ,
Belkom, 2019). Además, razonar sobre decisiones como lo hacen los
humanos es un proceso muy maleable y ad hoc (al menos en los humanos).
Los seres humanos generalmente desconocen sus cogniciones o actitudes
implícitas y, por lo tanto, no pueden informar adecuadamente sobre ellas. Por
lo tanto, a muchos humanos les resulta bastante difícil analizar
introspectivamente sus estados mentales, en la medida en que sean
conscientes, y asociar los resultados de este análisis a etiquetas y descripciones verbales (p
(2011). En primer lugar, el cerebro humano apenas revela cómo crea
conscientes (por ejemplo, Feldman­Barret, 2017). Lo que
realmente hace es darnos la ilusión de que sus productos revelan su
funcionamiento interno. En otras palabras: nuestros pensamientos conscientes
no nos dicen nada sobre la forma en que surgieron esos pensamientos.
Tampoco existe un marcador subjetivo que distinga los procesos de
razonamiento correctos de los erróneos (Kahneman y Klein, 2009). Por lo
tanto, quien toma decisiones no tiene forma de distinguir entre pensamientos
correctos, que emanan de conocimiento y experiencia genuinos, y
pensamientos incorrectos que surgen de procesos, tendencias e intuiciones
primarias neuroevolutivas inapropiadas. Entonces aquí podríamos hacernos
la pregunta: ¿no es más confiable tener una caja negra real que escuchar
una fabulosa? Además, según Werkhoven et al. (2018) exigir explicabilidad,
observabilidad o transparencia (Belkom, 2019; van den Bosch et al., 2019)
puede hacer que los sistemas de inteligencia artificial limiten su beneficio
potencial para la sociedad humana a lo que los humanos pueden entender.
Por supuesto, no debemos confiar ciegamente en los resultados
generados por la IA. Al igual que otros campos de tecnología compleja (por
ejemplo, modelado y simulación), los sistemas de IA deben verificarse
(cumplir con las especificaciones) y validarse (cumplir con los objetivos de
los sistemas) con respecto a los objetivos para los cuales se diseñó el
sistema. En general, cuando un sistema se verifica y valida adecuadamente,
puede considerarse seguro y adecuado para su propósito. Por tanto, merece
nuestra confianza por razones (lógicamente) comprensibles y objetivas
(aunque todavía pueden producirse errores). Del mismo modo, la gente
confía en el rendimiento de los aviones y de los teléfonos móviles, a pesar de
que ignoramos casi por completo sus complejos procesos internos. Al igual
que nuestros propios cerebros, las redes neuronales artificiales son
fundamentalmente poco transparentes (Nosek et al., 2011; Feldman­Barret,
2017). Por lo tanto, la confianza en la IA debe basarse principalmente en su
desempeño objetivo. Esto constituye una base más importante que brindar
confianza a partir de impresiones, historias o imágenes subjetivas (engañables)
destinadas a creer y atraer al usuario. Con base en investigaciones de
validación empírica, los desarrolladores y usuarios pueden verificar
explícitamente qué tan bien está funcionando el sistema con respecto al
conjunto de valores y objetivos para los cuales fue diseñada la máquina. En
algún momento, los seres humanos pueden querer confiar en que se pueden
lograr objetivos con menos costos y mejores resultados, cuando aceptamos
soluciones incluso si pueden ser menos transparentes para los humanos
(Werkhoven et al., 2018).
7 marzo 2021 | Volumen 4 | Artículo 622364
Machine Translated by Google
Korteling et al.
EL IMPACTO DE MÚLTIPLES IA ESTRECHAS
TECNOLOGÍA
La AGI como Santo Grial La AGI,
al igual que la inteligencia general humana, tendría muchas ventajas
obvias, en comparación con la IA estrecha (limitada, débil y especializada). de IA con muchos tipos de cualidades humanas (de nivel) será muy difícil
Un sistema AGI sería mucho más flexible y adaptable. Sobre la base de
procesos genéricos de formación y razonamiento, comprendería de forma
autónoma cómo se pueden resolver múltiples problemas en todo tipo de
dominios diferentes en relación con su contexto (por ejemplo,
Kurzweil, 2005). Los sistemas AGI también requieren muchas menos
intervenciones humanas para acomodar los diversos cabos sueltos entre
elementos parciales, facetas y perspectivas en situaciones complejas.
AGI realmente entendería los problemas y sería capaz de verlos desde
diferentes perspectivas (como las personas, idealmente, también pueden
hacer). Una característica de las herramientas de IA (estrictas) actuales es
que están especializadas en una tarea muy específica, donde a menudo
pueden desempeñarse a niveles sobrehumanos (por ejemplo, Goertzel,
2007; Silver et al., 2017). Estas tareas específicas han sido bien definidas
y estructuradas. Los sistemas de IA restringidos son menos adecuados, o
totalmente inadecuados, para tareas o entornos de tareas que ofrecen poca
estructura, coherencia, reglas u orientación, en los que pueden ocurrir todo
tipo de eventos inesperados, raros o poco comunes (por ejemplo,
emergencias). Conocer y seguir procedimientos fijos generalmente no
conduce a soluciones adecuadas en estas circunstancias tan variables. En
el contexto de cambios (imprevistos) en objetivos o circunstancias, la
adecuación de la IA actual se reduce considerablemente porque no puede
razonar desde una perspectiva general y adaptarse en consecuencia (Lake
et al., 2017; Horowitz, 2018). Al igual que con los sistemas de IA limitados,
se necesitan personas que supervisen estas desviaciones para permitir un
rendimiento del sistema flexible y adaptable. Por lo tanto, la búsqueda de
AGI puede considerarse como la búsqueda de una especie de santo grial.
¡La IA múltiple y estrecha es más relevante ahora!
Sin embargo, las altas perspectivas potenciales de la AGI no implican que
la AGI vaya a ser el factor más crucial en la futura I+D de IA, al menos a
corto y mediano plazo. Al reflexionar sobre los grandes beneficios
potenciales de la inteligencia general, tendemos a considerar las
aplicaciones limitadas de IA como entidades separadas que muy bien
pueden ser superadas por una AGI más amplia que presumiblemente
puede lidiar con todo. Pero así como nuestro mundo moderno ha
evolucionado rápidamente a través de una diversidad de innovaciones
tecnológicas específicas (limitadas), a nivel de sistema, la amplia y total
gama de aplicaciones de IA emergentes también tendrá un impacto
tecnológico y social innovador (Peeters et al., 2020). . Esto será aún más
relevante para el futuro mundo del big data, en el que todo estará conectado
con todo a través del Internet de las cosas. Por lo tanto, será mucho más
rentable y beneficioso desarrollar y construir variantes de IA (no parecidas
a las humanas) que sobresalgan en áreas donde las personas son
inherentemente limitadas. No parece demasiado descabellado suponer que
las múltiples variantes de aplicaciones estrechas de IA también se
interconecten gradualmente de manera más amplia. De esta manera, se
puede esperar un desarrollo hacia un ámbito cada vez más amplio de
aplicaciones integradas de IA.
Además, ya es posible entrenar un modelo de lenguaje AI (Generative Pre­
trained Transformer3, GPT­3) con un conjunto de datos gigantesco y luego
hacer que aprenda varias tareas basadas en un puñado de
Fronteras de la Inteligencia Artificial | www.frontiersin.org
Inteligencia humana versus artificial
Ejemplos: aprendizaje de uno o pocos intentos. GPT­3 (desarrollado por
OpenAI) puede hacer esto con tareas relacionadas con el lenguaje, pero
no hay ninguna razón por la que esto no sea posible con imagen y sonido,
o con combinaciones de estos tres (Brown, 2020).
Además, la paradoja de Moravec implica que el desarrollo de “socios”
de obtener, mientras que su valor agregado (es decir, más allá de los
límites de las capacidades humanas) será relativamente bajo. Las
aplicaciones de IA más fructíferas implicarán principalmente complementar
las limitaciones y limitaciones humanas. Dados los incentivos actuales para
el progreso tecnológico competitivo, múltiples formas de sistemas estrechos
de IA (conectados) serán el principal impulsor del impacto de la IA en
nuestra sociedad a corto y mediano plazo.
En el futuro cercano, esto puede implicar que las aplicaciones de IA
seguirán siendo muy diferentes de los agentes humanos y, en muchos
aspectos, casi incomparables con ellas. Es probable que esto sea cierto
incluso si en el futuro se lograra a largo plazo la hipotética coincidencia de
la inteligencia artificial general (AGI) con la cognición humana. La
inteligencia es un concepto multidimensional (cuantitativo, cualitativo).
Todas las dimensiones de la IA se desarrollan y crecen a lo largo de su
propio camino diferente con su propia dinámica. Por lo tanto, con el tiempo,
un número cada vez mayor de capacidades específicas (estrechas) de IA
pueden gradualmente igualar, superar y trascender las capacidades
cognitivas humanas. Dadas las enormes ventajas de la IA, por ejemplo en
el campo de la disponibilidad de datos y las capacidades de procesamiento
de datos, la realización de la AGI probablemente superaría al mismo tiempo
a la inteligencia humana en muchos sentidos. Lo que implica que el
momento hipotético en el que se igualarán las capacidades cognitivas
humanas y artificiales, es decir, el AGI a nivel humano, probablemente será
difícil de definir de manera significativa (Goertzel, 2007).3
Entonces, ¿cuándo la IA realmente nos entenderá como un “ amigo”,
“compañero”, “alter ego” o “compañero”, como lo hacemos cuando
colaboramos con otros humanos como humanos, nos superará en muchas
áreas al mismo tiempo Moravec (1998) . Tendrá un perfil de capacidades y
habilidades completamente diferente y, por lo tanto, no será fácil comprender
realmente su forma de “piensa” y toma sus decisiones. Mientras tanto, sin
embargo, a medida que las capacidades de los robots se expanden y pasan
de herramientas simples a sistemas más integrados, es importante calibrar
adecuadamente nuestras expectativas y percepciones hacia los robots. Por
lo tanto, tendremos que mejorar nuestra conciencia y conocimiento sobre
el desarrollo y la progresión continuos de múltiples formas de sistemas de
IA (integrados). Se trata, por ejemplo, de la naturaleza multifacética de la
inteligencia. Diferentes tipos de agentes pueden tener diferentes
combinaciones de inteligencias de niveles muy diferentes. Un agente con
inteligencia general puede, por ejemplo, estar dotado de excelentes
capacidades en el ámbito del reconocimiento de imágenes y la navegación,
el cálculo y el razonamiento lógico y, al mismo tiempo, ser aburrido en el
ámbito de la interacción social y la resolución de problemas orientada a
objetivos. Esta conciencia de la naturaleza multidimensional de la
inteligencia también afecta a la forma en que tenemos que lidiar con (y
capitalizar) el antropomorfismo. Esa es la tendencia humana en la
interacción humano­robot a caracterizar artefactos no humanos que
3
A menos, por supuesto, que la IA sea deliberadamente limitada o degradada al funcionamiento
a nivel humano.
8 marzo 2021 | Volumen 4 | Artículo 622364
Machine Translated by Google
Korteling et al.
superficialmente se parecen a nosotros por poseer rasgos, emociones e
intenciones humanas (por ejemplo, Kiesler y Hinds, 2004; Fink, 2012;
Haring et al., 2018). Conocer estas cuestiones de factores humanos es
crucial para optimizar la utilidad, el rendimiento y la seguridad de los
sistemas de IA humana (Peeters et al., 2020).
Desde esta perspectiva, la cuestión de si se realizará o no una “AGI a
nivel humano” no es la más relevante por el momento. Según la mayoría
de los científicos de IA, esto ciertamente sucederá, y la pregunta clave no
es SI esto sucederá, sino CUÁNDO (por ejemplo, Müller y Bostrom, 2016).
Sin embargo, a nivel de sistema, es probable que múltiples aplicaciones
limitadas de IA superen a la inteligencia humana en una gama cada vez
más amplia de áreas.
CONCLUSIONES Y MARCO
El presente artículo se centró en proporcionar más claridad y comprensión
sobre las características, diferencias e idiosincrasias fundamentales de
las inteligencias humana y artificial. Primero presentamos ideas y
argumentos para ampliar y diferenciar nuestra concepción de la
inteligencia, ya sea humana o artificial. Central para esta concepción más
amplia y multifacética de la inteligencia es la noción de que la inteligencia
en sí misma es una cuestión de información y computación, independiente
de su sustrato físico. Sin embargo, la naturaleza de este sustrato físico
(biológico/carbono o digital/silicio), determinará sustancialmente su
potencial envolvente de capacidades y limitaciones cognitivas. Las
facultades cognitivas orgánicas de los humanos se han desarrollado muy
recientemente durante la evolución de la humanidad. Estas facultades
"embrionarias" se han construido sobre un aparato de red neuronal
biológica que ha sido optimizado para la alostasis y funciones motoras
perceptuales (complejas). Por tanto, la cognición humana se caracteriza
por diversas limitaciones estructurales y distorsiones en su capacidad
para procesar ciertas formas de información no biológica.
Las redes neuronales biológicas, por ejemplo, no son muy capaces de
realizar cálculos aritméticos, para los cuales mi calculadora de bolsillo se
adapta millones de veces mejor. Estas limitaciones inherentes y arraigadas,
que se deben al origen biológico y evolutivo de la inteligencia humana,
pueden denominarse "integradas".
De acuerdo con la paradoja de Moravic, sostenemos que el
comportamiento inteligente es más de lo que a nosotros, como homo
sapiens, nos resulta difícil. Por tanto, no deberíamos confundir la dificultad
de la tarea (subjetiva, antropocéntrica) con la complejidad de la tarea
(objetiva). En lugar de ello, propugnamos una conceptualización versátil
de la inteligencia y un reconocimiento de sus muchas formas y composiciones posibles.
Esto implica una gran variedad de tipos de inteligencia biológica u otras
formas de alta (general) con una amplia gama de posibles perfiles de
inteligencia y cualidades cognitivas (que pueden o no superar las nuestras
en muchos aspectos). Esto nos haría más conscientes de los potenciales
más probables de las aplicaciones de IA en el futuro a corto y medio
plazo. Por ejemplo, desde esta perspectiva, nuestra principal investigación
debería centrarse en aquellos componentes del espectro de la inteligencia
que son relativamente difíciles para el cerebro humano y relativamente
fáciles para las máquinas. Esto implica principalmente el componente
cognitivo que requiere cálculo, análisis aritmético,
Fronteras de la Inteligencia Artificial | www.frontiersin.org
Inteligencia humana versus artificial
estadística, cálculo de probabilidades, análisis de datos, razonamiento
lógico, memorización, etcétera.
En esta línea hemos defendido una visión más modesta, más humilde,
de nuestra inteligencia humana general. Lo que también implica que la
AGI a nivel humano no debe considerarse como el “estándar de oro” de
la inteligencia (que debe perseguirse con máxima prioridad). Debido a las
muchas diferencias fundamentales entre las inteligencias natural y
artificial, una AGI similar a la humana será muy difícil de lograr en primer
lugar (y también con un valor agregado relativamente limitado). En caso
de que se logre un AGI en el futuro (lejano), probablemente tendrá un
perfil de capacidades y habilidades cognitivas completamente diferente al
que tenemos nosotros, como humanos. Cuando un AGI de este tipo haya
llegado tan lejos que sea capaz de “colaborar” como un ser humano, al
mismo tiempo será probable que en muchos aspectos ya pueda funcionar
a niveles muy superiores en relación con lo que nosotros podemos. Por el
momento, sin embargo, no será muy realista ni útil apuntar a un AGI que
incluya el amplio espectro de las capacidades cognitivas y perceptuales
humanas. En cambio, las aplicaciones de IA más rentables para el futuro
a corto y mediano plazo probablemente se basarán en múltiples sistemas
de IA estrechos. Estas múltiples aplicaciones limitadas de IA pueden
alcanzar la inteligencia humana en una gama cada vez más amplia de
áreas.
Desde este punto de vista, recomendamos no insistir demasiado en la
cuestión de la AGI, si la IA será más astuta que nosotros, si nos quitará
nuestros trabajos o cómo dotarla de todo tipo de capacidades humanas.
Dado el estado actual de la técnica, puede ser prudente centrarse más en
todo el sistema de múltiples innovaciones de IA con los humanos como
factor crucial de conexión y supervisión. Esto también implica el
establecimiento y formalización de límites legales y objetivos adecuados
(eficaces, éticos y seguros) para los sistemas de IA (Elands et al., 2019;
Aliman, 2020). Por tanto, este factor humano (legislador, usuario,
“colaborador”) necesita tener un buen conocimiento de las características
y capacidades de la inteligencia biológica y artificial (bajo todo tipo de
tareas y condiciones de trabajo). Tanto en el lugar de trabajo como en la
formulación de políticas, las aplicaciones de IA más fructíferas serán
complementar y compensar las limitaciones biológicas y cognitivas
inherentes a los humanos. Por esta razón, las cuestiones más destacadas
son ¿cómo utilizarlo de forma inteligente? ¿Para qué tareas y bajo qué
condiciones es seguro dejar las decisiones en manos de la IA y cuándo
se requiere el juicio humano? ¿Cómo podemos aprovechar las fortalezas
de la inteligencia humana y cómo implementar sistemas de IA de manera
efectiva para complementar y compensar las limitaciones inherentes a la
cognición humana? Consulte (Hoffman y Johnson, 2019; Shneiderman,
2020a; Shneiderman, 2020b) para obtener resúmenes recientes.
En resumen: no importa cuán inteligentes se vuelvan los agentes
autónomos de IA en ciertos aspectos, al menos en el futuro previsible,
seguirán siendo máquinas inconscientes. Estas máquinas tienen un
sistema operativo fundamentalmente diferente (biológico versus digital)
con capacidades y cualidades cognitivas correspondientemente diferentes
a las de las personas y otros animales. Por lo tanto, antes de que pueda
comenzar una “colaboración en equipo” adecuada, los miembros del
equipo humano tendrán que comprender este tipo de diferencias, es decir,
en qué se diferencia el procesamiento de la información humana y la
inteligencia de las muchas variantes posibles y específicas de los sistemas de IA.
9 marzo 2021 | Volumen 4 | Artículo 622364
Machine Translated by Google
Korteling et al.
Sólo cuando los humanos desarrollen una comprensión adecuada de estas
diferencias "entre especies" podrán capitalizar de manera efectiva los beneficios
potenciales de la IA en (futuros) equipos humanos­IA. Dada la alta flexibilidad,
versatilidad y adaptabilidad de los humanos en relación con los sistemas de IA,
el primer desafío es entonces ¿cómo garantizar la adaptación humana a las
capacidades más rígidas de la IA?4 En otras palabras: ¿cómo podemos lograr
una concepción adecuada de las diferencias entre los humanos? ­ ¿Y la
inteligencia artificial?
Marco para la formación en la conciencia de la inteligencia Para esta
pregunta, es
necesario abordar más enérgicamente la cuestión de la conciencia de la
inteligencia en los profesionales humanos. Además de las herramientas
informáticas para la distribución de información de concientización relevante
(Collazos et al., 2019) en sistemas hombre­máquina, esto requiere una mejor
educación y capacitación sobre cómo abordar las características, idiosincrasias y
capacidades muy nuevas y diferentes de los sistemas de IA. . Esto incluye, por
ejemplo, una comprensión adecuada de las características, posibilidades y
limitaciones básicas de las propiedades del sistema cognitivo de la IA sin
conceptos erróneos antropocéntricos y/o antropomórficos. En general, esta
“Conciencia de Inteligencia” es muy relevante para comprender, investigar y
abordar mejor las múltiples posibilidades y desafíos de la inteligencia artificial.
Este desafío práctico de los factores humanos podría abordarse, por ejemplo,
mediante el desarrollo de formas de capacitación y entornos de aprendizaje
nuevos, específicos y fácilmente configurables (adaptativos) para sistemas
humanos­IA. Estas formas y entornos de capacitación flexibles (por ejemplo,
simulaciones y juegos) deberían centrarse en desarrollar conocimientos,
conocimientos y habilidades prácticas sobre las características, capacidades y
limitaciones específicas no humanas de los sistemas de IA y cómo abordarlas en
situaciones prácticas.
¿La gente tendrá que comprender los factores críticos que determinan los
objetivos, el desempeño y las opciones de la IA? Lo que en algunos casos puede
incluso incluir la simple noción de que las IA se entusiasman tanto con su
desempeño para lograr sus objetivos como lo hace su refrigerador por mantener
bien su batido. ¿Tienen que aprender cuándo y bajo qué condiciones es seguro
dejar las decisiones en manos de la IA y cuándo es necesario o esencial el juicio
humano? Y más en general: ¿cómo “piensa” y decide? La relevancia de este tipo
de conocimientos, habilidades y prácticas solo será mayor cuando crezca el grado
de autonomía (y genérica) de los sistemas avanzados de IA.
¿Cómo es un plan de estudios de formación en materia de conciencia de
inteligencia? Debe incluir al menos un módulo sobre las características cognitivas
de la IA. Se trata básicamente de una materia similar a las que también se
incluyen en los planes de estudio sobre cognición humana.
Este amplio módulo sobre la "Ciencia cognitiva de la IA" puede involucrar una
variedad de subtemas que comienzan con una revisión del concepto de
"Inteligencia" despojado de malentendidos antropocéntricos y antropomórficos.
Además, este módulo debe centrarse en proporcionar conocimientos sobre la
estructura y funcionamiento del
4
Además de la cuestión de la IA con conciencia humana, es decir, la adaptación de la IA al ámbito cognitivo
características de los humanos.
Fronteras de la Inteligencia Artificial | www.frontiersin.org
Inteligencia humana versus artificial
Sistema operativo de IA o la “mente de IA”. A esto le pueden seguir temas como:
Percepción e interpretación de la información por parte de la IA, cognición de la
IA (memoria, procesamiento de información, resolución de problemas, sesgos),
tratamiento de las posibilidades y limitaciones de la IA en áreas "humanas" como
la creatividad, la adaptabilidad, la autonomía y la reflexión. y (auto)conciencia,
que se ocupa de las funciones objetivo (valoración de las acciones en relación
con el costo­beneficio), la ética de la IA y la seguridad de la IA. Además, dicho
plan de estudios debería incluir módulos técnicos que proporcionen información
sobre el funcionamiento del sistema operativo de IA.
Debido a la enorme velocidad con la que se desarrolla la tecnología y las
aplicaciones de la IA, el contenido de dicho plan de estudios también es muy
dinámico y evoluciona continuamente sobre la base del progreso tecnológico.
Esto implica que el plan de estudios y las ayudas y entornos de capacitación
deben ser flexibles, experienciales y adaptables, lo que hace que la forma de
trabajo de los juegos serios sea ideal.
A continuación, proporcionamos un marco global para el desarrollo de nuevos
planes de estudio educativos sobre concientización sobre la IA. Estos subtemas
van más allá de aprender a “operar”, “controlar” o interactuar de manera efectiva
con aplicaciones específicas de IA (es decir, la interacción convencional entre
humanos y máquinas):
­Comprensión de las características subyacentes del sistema de la IA (el
"cerebro de la IA"). Comprender las cualidades y limitaciones específicas de
la IA en relación con la inteligencia humana.
­Comprender la complejidad de las tareas y del entorno desde la perspectiva
de los sistemas de IA.
­Comprender el problema de los sesgos en la cognición humana, en relación
con los sesgos en la IA.
­Comprender los problemas asociados con el control de la IA, la previsibilidad
del comportamiento de la IA (decisiones), generar confianza, mantener la
conciencia de la situación (complacencia), asignación dinámica de tareas (por
ejemplo, asumir las tareas de los demás) y responsabilidad (rendición de
cuentas).
­Cómo abordar las posibilidades y limitaciones de la IA en el campo de la
“creatividad”, adaptabilidad de la IA, “conciencia ambiental” y generalización
del conocimiento.
­Aprender a afrontar las limitaciones perceptivas y cognitivas y los posibles
errores de la IA que pueden resultar difíciles de comprender.
­Confianza en el desempeño de la IA (posiblemente a pesar de su limitada
transparencia o capacidad de “explicar”) basada en verificación y validación.
­Aprender a lidiar con nuestra inclinación natural al antropocentrismo y al
antropomorfismo (“teoría de la mente”) al razonar sobre la interacción humano­
robot.
­Cómo aprovechar los poderes de la IA para hacer frente a las limitaciones
inherentes al procesamiento de la información humana (y viceversa).
­Comprender las características y cualidades específicas del sistema hombre­
máquina y ser capaz de decidir cuándo, para qué y cómo la combinación
integrada de facultades humanas y de IA puede funcionar al máximo del
potencial general del sistema.
En conclusión: debido a la enorme velocidad con la que
La tecnología y las aplicaciones de la IA evolucionan, necesitamos una
conceptualización más versátil de la inteligencia y un reconocimiento de sus
muchas formas y posibilidades posibles.
10 marzo 2021 | Volumen 4 | Artículo 622364
Machine Translated by Google
Korteling et al.
combinaciones. Una concepción revisada de la inteligencia incluye también una
buena comprensión de las características básicas, posibilidades y limitaciones
de diferentes conceptos erróneos antropocéntricos y/o antropomórficos (biológicos,
artificiales) sin propiedades cognitivas del sistema.
Esta “Conciencia de Inteligencia” es muy relevante para comprender y abordar
mejor las múltiples posibilidades y desafíos de la inteligencia artificial, por ejemplo,
para decidir cuándo usar o implementar la IA en relación con las tareas y su
contexto. Por lo tanto, se recomienda el desarrollo de planes de estudio educativos
con formularios de capacitación y entornos de aprendizaje nuevos, específicos y
fácilmente configurables para sistemas humanos­IA. El trabajo futuro debería
centrarse en herramientas, métodos y contenidos de formación que sean lo
suficientemente flexibles y adaptables para poder mantenerse al día con los
rápidos cambios en el campo de la IA y con la amplia variedad de grupos
destinatarios y objetivos de aprendizaje.
REFERENCIAS
Ackermann, N. (2018). Marco de inteligencia artificial: una introducción visual al aprendizaje
automático y la IA. Obtenido de: https://towardsdatascience.com/artificial­intelligence­framework­
a­visual­introduction­to­machine­learning­and­ai­d7e36b304f87 . (9 de septiembre de 2019).
Alimán, Nuevo México. (2020). Estrategias híbridas cognitivo­afectivas para la seguridad de la IA.
Tesis doctoral. Utrecht, Países Bajos: Universidad de Utrecht. doi:10.33540/203
Bao, JX, Kandel, ER y Hawkins, RD (1997). Participación de mecanismos pre y postsinápticos en
la potenciación posttetánica en las sinapsis de Aplysia.
Ciencia 275, 969–973. doi:10.1126/science.275.5302.969Dane
Barra, M. (2007). El cerebro proactivo: uso de analogías y asociaciones para generar predicciones.
Tendencias Cogn. Ciencia. 11, 280–289. doi:10.1016/j.tics. 2007.05.005
Baron, J. y Ritov, I. (2004). Sesgo de omisión, diferencias individuales y normalidad.
Comportamiento organizacional. Tararear. Decide. Proceso. 94, 74–85. doi:10.1016/j.obhdp.
2004.03.003
Belkom, Rv (2019). Los sumergibles no nadan: la búsqueda de máquinas inteligentes. La Haya:
Fundación para el Futuro de la Tecnología (STT).
Bergstein, B. (2017). La IA aún no es muy inteligente. Pero debemos ponernos en marcha para
asegurarnos de que la automatización funcione para más personas. Cambridge, MA, Estados
Unidos: MIT Technology. Obtenido de: https://www.technologyreview.com/s/609318/the­great­
ai­paradox/ Bieger, JB,
Thorisson, KR y Garrett, D. (2014) . “Raising AI: tutoring issues”, en la séptima conferencia
internacional, AGI 2014, ciudad de Quebec, QC, Canadá, actas del 1 al 4 de agosto de 2014.
Editores B. Goertzel, L. Orseau y J. Snaider (Berlín, Alemania: Springer).
doi:10.1007/978­3­319­09274­4 Boden, M. (2017). Principios de la robótica: regulación
de los robots en el mundo real.
Conectar. Ciencia. 29 (2), 124­129.
Bostrom, N. (2014). Superinteligencia: caminos, peligros, estrategias. Oxford
Reino Unido: Oxford University Press.
Bradshaw, JM, Dignum, V., Jonker, CM y Sierhuis, M. (2012). Introducción al número
especial sobre el trabajo en equipo humano­agente­robot. Intel IEEE. Sistema. 27,
8­13. doi:10.1109/MIS.2012.37
Brodal, A. (1981). Anatomía neurológica en relación con la medicina clínica. Nueva York,
Nueva York, Estados Unidos: Oxford University Press.
Marrón, tuberculosis (2020). Los modelos de lenguaje aprenden con pocas oportunidades, arXiv 2005, 14165v4.
Cialdini, RD (1984). Influencia: la psicología de la persuasión. Nueva York, NY, Estados Unidos:
Harper.
Coley, JD y Tanner, KD (2012). Orígenes comunes de diversos conceptos erróneos: principios
cognitivos y el desarrollo del pensamiento biológico. CBE Ciencias de la vida.
Educativo. 11 (3), 209–215. doi:10.1187/cbe.12­06­0074
Collazos, CA, Gutiérrez, FL, Gallardo, J., Ortega, M., Fardoun, HM y Molina, AI (2019).
Teoría descriptiva de la conciencia para el desarrollo de software colaborativo. J.
Computación humanizada de inteligencia ambiental. 10, 4789–4818. doi:10.1007/
s12652­018­1165­9
Fronteras de la Inteligencia Artificial | www.frontiersin.org
Inteligencia humana versus artificial
CONTRIBUCIONES DE AUTOR
La búsqueda bibliográfica, el análisis, el trabajo conceptual y la redacción del
manuscrito fueron realizados por JEK. Todos los autores enumerados han
realizado contribuciones sustanciales, directas e intelectuales al trabajo y
aprobaron su publicación.
EXPRESIONES DE GRATITUD
Los autores quieren agradecer a J. van Diggelen, LJHM Kester por sus útiles
aportes para este manuscrito. El presente artículo fue un resultado de 1) el
programa BIHUNT (Behavioral Impact of NIC Teaming, V1719) financiado por el
Ministerio de Defensa holandés y del programa Wise Policy Making financiado
por la Organización Holandesa para la Investigación Científica Aplicada (TNO).
Damasio, AR (1994). El error de Descartes: emoción, razón y cerebro humano. Nuevo
York, Nueva York, Estados Unidos: GP Putnam's Sons.
Elands, P., HuizingKester, AL, Oggero, S. y Peeters, M. (2019). Gobernar el comportamiento ético
y eficaz de los sistemas inteligentes: un marco novedoso para un control humano significativo
en un contexto militar. Espectador militar 188 (6), 302–313.
Feldman­Barret, L. (2017). Cómo se crean las emociones: la vida secreta del cerebro.
Boston, MA, Estados Unidos: Houghton Mifflin Harcourt.
Fink, J. (2012). “Antropomorfismo y semejanza humana en el diseño de robots y
la interacción humano­robot”, en Robótica social. ICSR 2012. Apuntes de
conferencias sobre informática. Editores SS Ge, O. Khatib, JJ Cabibihan, R.
Simmons y MA Williams (Berlín, Alemania: Springer), 7621. doi:10.1007/
978­3­642­34103­8_20
Fischetti, M. (2011). Computadoras versus cerebros. Número del 175 aniversario de Scientific
American Obtenido de: https://www.scientificamerican.com/article/computers­vs­brains/ .
Furnham, A. y Boo, HC (2011). Una revisión de la literatura sobre el efecto anclaje. El J.
Socioeconomía 40, 35–42. doi:10.1016/j.socec.2010.10.008
Gerla, M., Lee, EK. y Pau, G. (2014). Internet de los vehículos: de la red inteligente a los
coches autónomos y las nubes vehiculares. WF­IoT 12, 241–246. doi:10.1177/
1550147716665500
Gibson, JJ (1979). El enfoque ecológico para la percepción visual. Boston, MA, Estados Unidos:
Houghton Mifflin.
Gibson, JJ (1966). Los sentidos considerados como sistemas perceptivos. Boston, MA, Estados
Unidos: Houghton Mifflin.
Gigerenzer, G. y Gaissmaier, W. (2011). Toma de decisiones heurística. Año. Rdo.
Psicólogo. 62, 451–482. doi:10.1146/annurev­psych­120709­145346
Goertzel, B. (2007). La inteligencia general artificial a nivel humano y la posibilidad de una
singularidad tecnológica: una reacción a la singularidad está cerca de Ray Kurzweil y
a la crítica de McDermott a Kurzweil. Artif. Inteligencia 171 (18), 1161­1173. doi:10.1016/
j.artint.2007.10.011
Goertzel, B., Orseau, L. y Snaider, J. (Editores). (2014). Prefacio. Séptima conferencia internacional,
AGI 2014 Ciudad de Quebec, QC, Canadá, 1 al 4 de agosto de 2014 Actas.
Saltador.
Grava, WA desde. el. (1997). Inteligencia natural: sobre el pensamiento, la inteligencia y la
conciencia de las personas y otros animales. 2ª ed. Ámsterdam, Países Bajos: Nieuwezijds.
Obtenido de https://www.nieuwezijds.nl/boek/natuurlijke­informatie/ . (9 de julio de 2019).
Hardin, G. (1968). La tragedia de los comunes. El problema demográfico no tiene solución técnica;
requiere una extensión fundamental de la moralidad. ciencia 162,
1243–1248. doi:10.1126/ciencia.162.3859.1243
Haring, KS, Watanabe, K., Velonaki, M., Tosell, CC y Finomore, V.
(2018). Ffab: el sesgo de atribución de función de forma en la interacción entre
humanos y robots. Traducción IEEE. Cog. Desarrollo. Sistema. 10 (4), 843–851.
doi:10.1109/ TCDS.2018.2851569
Haselton, MG, Bryant, GA, Wilke, A., Frederick, DA, Galperin, A., Frankenhuis, WE, et al. (2009).
Racionalidad adaptativa: una perspectiva evolutiva sobre el sesgo cognitivo.
Soc. Cog. 27, 733–762. doi:10.1521/soco.2009.27.5.733
11 marzo 2021 | Volumen 4 | Artículo 622364
Machine Translated by Google
Korteling et al.
Haselton, MG, Nettle, D. y Andrews, PW (2005). “La evolución del sesgo cognitivo”, en El manual de
psicología evolutiva. Editor DM Buss (Hoboken, Nueva Jersey, Estados Unidos: John Wiley &
Sons), 724–746.
Henshilwood, C. y Marean, C. (2003). El origen del comportamiento humano moderno.
actual. Antropol. 44 (5), 627–651. doi:10.1086/377665
Hoffman, RR y Johnson, M. (2019). “La búsqueda de alternativas a los “niveles de automatización” y la
“asignación de tareas”, en Desempeño humano en sistemas automatizados y autónomos. Editores
M. Mouloua y PA Hancock (Boca Raton, FL, Estados Unidos: CRC Press), 43–68.
Hoffrage, U., Hertwig, R. y Gigerenzer, G. (2000). Sesgo retrospectivo: ¿un subproducto de la
actualización del conocimiento? J. Exp. Psicólogo. Aprender. Memoria. Cog. 26, 566–581.
doi:10. 1037/0278­7393.26.3.566
Horowitz, MC (2018). La promesa y el peligro de las aplicaciones militares de la inteligencia artificial.
Boletín de los científicos atómicos Obtenido de https://thebulletin.org/militaryapplications­artificial­
intelligence/promise­and­peril­military­applications­artificial­intelligence (consultado el 27 de marzo
de 2019).
Isaacson, JS y Scanziani, M. (2011). Cómo la inhibición da forma a la actividad cortical.
Neurona 72, 231–243. doi:10.1016/j.neuron.2011.09.027
Johnson, M., Bradshaw, JM, Feltovich, PJ, Jonker, CM, van Riemsdijk, MB y Sierhuis, M. (2014).
Diseño coactivo: diseñar soportes para la interdependencia en la actividad conjunta. J
Interacción humano­robot 3 (1), 43–69. doi:10.5898/JHRI.3.1.Johnson
Kahle, W. (1979). Volumen 3: sistemas nerviosos y órganos sensoriales, en atlas de anatomía de
bolsillo. Stuttgart. Editores W. Kahle, H. Leonhardt y W. Platzer (Nueva York, NY, Estados Unidos:
Thieme Verlag).
Kahneman, D. y Klein, G. (2009). Condiciones para la experiencia intuitiva: no estar en desacuerdo.
Soy. Psicólogo. 64, 515–526. doi:10.1037/a0016755 Kahneman, D. (2011).
Pensando, rápido y lento. Nueva York, Nueva York, Estados Unidos:
Farrar, Straus y Giroux.
Katz, B. y Miledi, R. (1968). El papel del calcio en la facilitación neuromuscular.
J. Physiol. 195, 481–492. doi:10.1113/jphysiol.1968.sp008469
Kiesler, S. y Hinds, P. (2004). Introducción a este número especial sobre la interacción entre
humanos y robots. Int J Hum­Comput. En t. 19 (1), 1–8. doi:10.1080/07370024.2004. 9667337
Klein, G., Woods, DD, Bradshaw, JM, Hoffman, RR y Feltovich, PJ
(2004). Diez desafíos para hacer de la automatización un "jugador de equipo" en la actividad
conjunta humano­agente. Intel IEEE. Sistema. 19 (6), 91–95. doi:10.1109/MIS.2004.74
Korteling, JE (1994). Rendimiento de múltiples tareas y envejecimiento. Bariet, Ruinen, Países
Bajos: Disertación. TNO­Instituto de Investigación de Factores Humanos/Universidad Estatal
de Groningen https://www.researchgate.net/publication/310626711_ Multiple­
Task_Performance_and_Aging.
Korteling, JE y Toet, A. (2020). Sesgos cognitivos. en Enciclopedia de neurociencia conductual.
2.ª edición (Ámsterdam­Edimburgo: Elsevier Science) doi:10.1016/
B978­0­12­809324­5.24105­9
Korteling, JE, Brouwer, AM y Toet, A. (2018a). Un marco de red neuronal para el sesgo cognitivo.
Frente. Psicólogo. 9, 1561. doi:10.3389/fpsyg. 2018.01561
Korteling, JE, van de Boer­Visschedijk, GC, Boswinkel, RA y Boonekamp, RC (2018b). Efectos del uso
de Colaboradores Inteligentes No Humanos en la Educación y Formación [V1719]. Informe TNO
2018 R11654. Soesterberg: TNO defensa y seguridad, Soesterberg, Países Bajos: TNO, Soesterberg.
Korteling, JE, Gerritsma, J. y Toet, A. (2021). Retención y transferencia de intervenciones de mitigación
de sesgos cognitivos: un estudio sistemático de la literatura. Frente.
Psicólogo. 1–20. doi:10.13140/RG.2.2.27981.56800 Kosslyn,
SM y Koenig, O. (1992). Mente Húmeda: la nueva neurociencia cognitiva.
Nueva York, NY, Estados Unidos: Free Press.
Krämer, NC, von der Pütten, A. y Eimler, S. (2012). “Teoría de la interacción humano­agente y humano­
robot: similitudes y diferencias con la interacción humano­humano”, en Interacción humano­
computadora: la perspectiva de la agencia.
Estudios en inteligencia computacional. Editores M. Zacarias y JV de Oliveira (Berlín, Alemania:
Springer), 396, 215–240. doi:10.1007/978­3­642­25691­2_9 Kurzweil, R. (2005). La singularidad
está cerca. Nueva York, NY, Estados Unidos: Viking
prensa.
Kurzweil, R. (1990). La era de las máquinas inteligentes. Cambridge, MA, Estados Unidos:
CON Prensa.
Lake, BM, Ullman, TD, Tenenbaum, JB y Gershman, SJ (2017). Construir máquinas que aprendan y
piensen como personas. Comportamiento. Ciencia del cerebro. 40, e253. doi:10.
1017/S0140525X16001837
Fronteras de la Inteligencia Artificial | www.frontiersin.org
Inteligencia humana versus artificial
Lichtenstein, S. y Slovic, P. (1971). Inversiones de preferencia entre ofertas y elecciones en las
decisiones de juego. J. Exp. Psicólogo. 89, 46–55. doi:10.1037/ h0031207
McBrearty, S. y Brooks, A. (2000). La revolución que no fue: una nueva interpretación del origen
del comportamiento humano moderno. J. hum. Evolución. 39 (5), 453–563. doi:10.1006/
jhev.2000.0435
McClelland, JL (1978). Percepción y enmascaramiento de totalidades y partes. J. Exp.
Psicólogo. Tararear. Percepción Realizar. 4, 210–223. doi:10.1037//0096­1523.4.2.210 McDowd,
JM y Craik, FIM (1988). Efectos del envejecimiento y la dificultad de las tareas sobre el desempeño de
la atención dividida. J. Exp. Psicólogo. Tararear. Percepción. Llevar a cabo. 14, 267–280.
Minsky, M. (1986). La sociedad de la mente. Londres, Reino Unido: Simon y
Schuster.
Moravec, H. (1988). Cuidado con los niños. Cambridge, MA, Estados Unidos: Harvard University Press.
Moravec, H. (1998). ¿Cuándo el hardware de la computadora coincidirá con el cerebro humano? J.Evol.
Tecnología. 1, 1998 Obtenido de https://jetpress.org/volume1/moravec.htm.
Müller, VC y Bostrom, N. (2016). Progresos futuros en inteligencia artificial: una encuesta de
opinión de expertos. Cuestiones fundamentales de la inteligencia artificial. Cham, Suiza:
Springer. doi:10.1007/978­3­319­26485­1
Nickerson, RS (1998). Sesgo de confirmación: un fenómeno omnipresente que adopta muchas
formas. Rev. General Psicólogo. 2, 175–220. doi:10.1037/1089­2680.2.2.175
Nosek, BA, Hawkins, CB y Frazier, RS (2011). Cognición social implícita: de medidas a
mecanismos. Tendencias Cogn. Ciencia. 15 (4), 152­159. doi:10.1016/j. tics.2011.01.005
Patt, A. y Zeckhauser, R. (2000). Sesgo de acción y decisiones ambientales.
J. Riesgo incierto. 21, 45–72. doi:10.1023/a:1026517309871 Peeters, M.M.,
van Diggelen, J., van Den Bosch, K., Bronkhorst, A., Neerincx, M.
A., Schraagen, JM y col. (2020). Inteligencia colectiva híbrida en una sociedad humana­IA. AI y
Sociedad 38, 217–(238.) doi:10.1007/s00146­020­01005­y Petraglia, MD y Korisettar, R.
(1998). Comportamiento humano temprano en el contexto global.
Oxfordshire, Reino Unido: Routledge.
Pomerantz, J. (1981). “Organización perceptiva en el procesamiento de la información”, en Organización
perceptual. Editores M. Kubovy y J. Pomerantz (Hillsdale, Nueva Jersey, Estados Unidos: Lawrence
Erlbaum).
Pronin, E., Lin, DY y Ross, L. (2002). El punto ciego del sesgo: percepciones de sesgo en uno
mismo frente a los demás. Personal. Soc. Psicólogo. Toro. 28, 369–381. doi:10.1177/
0146167202286008
Reicher, GM (1969). El reconocimiento perceptivo en función de la significación de
material de estímulo. J. Exp. Psicólogo. 81, 274–280.
Rich, E. y Knight, K. (1991). Inteligencia artificial. 2da edición. Nueva York, NY,
Estados Unidos: McGraw­Hill.
Rich, E., Knight, K. y Nair, SB (2009). Inteligencia artificial. 3ª edición. Nueva Delhi,
India: Tata McGraw­Hill.
Resucitado, JL (2015). Creer lo que no creemos: aquiescencia a creencias supersticiosas y
otras intuiciones poderosas. Psicólogo. Apocalipsis 123, 182–207. doi:10.1037/ rev0000017
Roese, Nueva Jersey y Vohs, KD (2012). Sesgo retrospectivo. Perspectiva. Psicólogo. Ciencia. 7,
411–426. doi:10.1177/1745691612454303
Rogers, RD y Monsell, S. (1995). Costos de un cambio predecible entre tareas cognitivas
simples. J. Exp. Psicólogo. Génesis 124, 207e231. doi:10.1037/0096­3445.124.2.207
Rubinstein, JS, Meyer, DE y Evans, JE (2001). Control ejecutivo de los procesos cognitivos en el
cambio de tareas. J. Exp. Psicólogo. Tararear. Percepción Realizar. 27, 763–797.
doi:10.1037//0096­1523.27.4.763
Russell, S. y Norvig, P. (2014). Inteligencia artificial: un enfoque moderno. 3ª edición.
Harlow, Reino Unido: Pearson Education.
Shafir, E. y LeBoeuf, RA (2002). Racionalidad. Año. Rdo. Psicólogo. 53, 491–517.
doi:10.1146/annurev.psych.53.100901.135213
Shatz, CJ (1992). El cerebro en desarrollo. Ciencia. Soy. 267, 60–67. doi:10.1038/
científicoamericano0992­60
Shneiderman, B. (2020a). Diseñe lecciones a partir de los dos grandes objetivos de la IA: la emulación
humana y las aplicaciones útiles. Traducción IEEE. Tecnología. Soc. 1, 73–82. doi:10.
1109/TTS.2020.2992669
Shneiderman, B. (2020b). Inteligencia artificial centrada en el ser humano: fiable, segura y digna
de confianza. En t. J. Interacción persona­computadora 36 (6), 495–504. doi:10.1080/
10447318.2020.1741118
Siegel, A. y Sapru, HN (2005). Neurociencia esencial. Filadelfia, PA, Estados Unidos: Lippincott Williams
y Wilkins.
12 marzo 2021 | Volumen 4 | Artículo 622364
Machine Translated by Google
Korteling et al.
Silver, D., Schrittwieser, J., Simonyan, K., Antonoglou, I., Huang, A., Guez, A., et al.
(2017). Dominar el juego del go sin conocimiento humano. Naturaleza 550 (7676), 354.
doi:10.1038/naturaleza24270 Simon, HA
(1955). Un modelo del comportamiento de elección racional. QJ Economía. 69, 99­118.
doi:10.2307/1884852
Taylor, DM y Doria, JR (1981). Sesgo de atribución de interés propio y de grupo. J. Soc.
Psicólogo. 113, 201–211. doi:10.1080/00224545.1981. 9924371
Tegmark, M. (2017). Vida 3.0: ser humano en la era de la inteligencia artificial. Nueva York, NY,
Estados Unidos: Borzoi Book publicado por AA Knopf.
Toet, A., Brouwer, AM, van den Bosch, K. y Korteling, JE (2016). Efectos de las características
personales sobre la susceptibilidad al sesgo de decisión: un estudio de la literatura. En t.
J. Sociedad de Humanidades. Ciencia. 8, 1–17.
Tooby, J. y Cosmides, L. (2005). “Fundamentos conceptuales de la psicología evolutiva”, en
Manual de psicología evolutiva. Editor DM Buss (Hoboken, Nueva Jersey, Estados Unidos:
John Wiley & Sons), 5–67.
Tversky, A. y Kahneman, D. (1974). Juicio bajo incertidumbre: heurísticas y sesgos. Ciencia
185 (4157), 1124­1131. doi:10.1126/science.185.4157.1124 Tversky, A. y
Kahneman, D. (1981). El marco de las decisiones y la psicología de la elección. Ciencia 211,
453–458. doi:10.1126/science.7455683 Tversky, A. y Kahneman, D. (1973).
Disponibilidad: una heurística para juzgar la frecuencia y la probabilidad. Cog. Psicólogo. 5,
207–232. doi:10.1016/0010­0285(73)90033­9 van den Bosch, K. y Bronkhorst, K.
(2018). Cooperación entre humanos y IA para beneficiar la toma de decisiones militares.
Soesterberg, Países Bajos: TNO. van den Bosch, K. y Bronkhorst,
K. (2019). Seis desafíos para el coaprendizaje humano­IA. Sistemas de instrucción
adaptativos 11597, 572–589. doi:10.1007/ 978­3­030­22341­0_45
Weisstein, N. y Harris, CS (1974). Detección visual de segmentos de línea: un efecto de
superioridad del objeto. Ciencia 186, 752–755. doi:10.1126/ciencia.186. 4165.752
Fronteras de la Inteligencia Artificial | www.frontiersin.org
Inteligencia humana versus artificial
Werkhoven, P., Neerincx, M. y Kester, L. (2018). Decir a los sistemas autónomos qué hacer.
Actas de la 36.ª Conferencia Europea sobre Ergonomía Cognitiva, ECCE 2018, Utrecht,
Países Bajos, 5 a 7 de septiembre de 2018, 1–8. doi:10.1145/3232078.3232238
Wheeler, D., (1970). Procesos en el reconocimiento de palabras Cogn. Psicólogo. 1, 59–85.
Williams, A. y Weisstein, N. (1978). Los segmentos de línea se perciben mejor en un contexto
coherente que solos: un efecto de línea de objeto en la percepción visual. Memoria.
Cognición 6, 85–90. doi:10.3758/bf03197432
Wingfield, A. y Byrnes, D. (1981). La psicología de la memoria humana. Nueva York, NY, Estados
Unidos: Academic Press.
Wood, RE, Mento, AJ y Locke, EA (1987). La complejidad de la tarea como moderador de
los efectos de las metas: un metanálisis. J. Aplica. Psicólogo. 72 (3), 416–425.
doi:10.1037/ 0021­9010.72.3.416
Wyrobek, KA, Berger, EH, van der Loos, HFM y Salisbury, JK (2008).
Hacia una plataforma de desarrollo de robótica personal: fundamento y diseño de un
robot personal intrínsecamente seguro. Actas de la Conferencia Internacional IEEE
sobre Robótica y Automatización de 2008, Pasadena, CA, Estados Unidos, 19 al 23 de
mayo de 2008. doi:10.1109/ROBOT.2008.4543527
Conflicto de intereses: Los autores declaran que la investigación se realizó en el
ausencia de relaciones comerciales o financieras que puedan interpretarse como un potencial
conflicto de intereses.
Copyright © 2021 Korteling, van de Boer­Visschedijk, Blankendaal, Boonekamp y Eikelboom.
Este es un artículo de acceso abierto distribuido bajo los términos de la Licencia de Atribución
Creative Commons (CC BY). Se permite el uso, distribución o reproducción en otros foros,
siempre que se cite al autor(es) original(es) y al propietario(s) de los derechos de autor y se cite
la publicación original en esta revista, de acuerdo con la práctica académica aceptada. No se
permite ningún uso, distribución o reproducción que no cumpla con estos términos.
13 marzo 2021 | Volumen 4 | Artículo 622364