Supongamos que se le demostró que una herramienta de inteligencia artificial ofrece predicciones precisas sobre algunas acciones que posee. ¿Cómo te sentirías al usarlo? Ahora, suponga que está solicitando un trabajo en una empresa donde el departamento de recursos humanos utiliza un sistema de IA para detectar currículums. ¿Te sentirías cómodo con eso?
Un nuevo estudio encuentra que las personas no están completamente entusiasmadas ni totalmente reacios a la IA. En lugar de caer en los campamentos de techno-optimistas y luditas, las personas están discerniendo sobre el resultado práctico del uso de IA, caso por caso.
«Proponemos que la apreciación de la IA ocurre cuando la IA se percibe como más capaz que los humanos y la personalización se percibe como innecesaria en un contexto de decisión dado», dice el profesor del MIT Jackson Lu, coautor de un documento recientemente publicado que detalla los resultados del estudio. «La aversión a la IA ocurre cuando no se cumplen cualquiera de estas condiciones, y la apreciación de la IA ocurre solo cuando ambas condiciones están satisfechas».
El documento, «Aversión o apreciación de AI? Un marco de capacidad-personalización y una revisión metaanalítica», aparece en Boletín psicológico. El documento tiene ocho coautores, incluidos Lu, quien es profesor asociado de estudios de trabajo y organización de desarrollo profesional en la MIT Sloan School of Management.
El nuevo marco agrega información
Las reacciones de las personas a la IA han estado sujetas a un debate extenso, a menudo produciendo hallazgos aparentemente dispares. Un documento influyente de 2015 sobre «aversión al algoritmo» descubrió que las personas son menos indulgentes de los errores generados por la IA que los errores humanos, mientras que un artículo ampliamente notable de 2019 sobre «apreciación del algoritmo» descubrió que las personas preferían los consejos de la IA, en comparación con los consejos de los humanos.
Para conciliar estos hallazgos mixtos, Lu y sus coautores realizaron un metaanálisis de 163 estudios anteriores que compararon las preferencias de las personas para la IA versus los humanos. Los investigadores probaron si los datos respaldaban su «marco de capacidad -personalización de la capacidad propuesto», la idea de que en un contexto dado, tanto la capacidad percibida de la IA como la necesidad percibida de personalización, forman nuestras preferencias para la IA o los humanos.
En los 163 estudios, el equipo de investigación analizó más de 82,000 reacciones a 93 «contextos de decisión» distintos, por ejemplo, si los participantes se sentirían cómodos o no con la IA que se usa en diagnósticos de cáncer. El análisis confirmó que el marco de capacidad -personalización de hecho ayuda a explicar las preferencias de las personas.
«El metanálisis respaldó nuestro marco teórico», dice Lu. «Ambas dimensiones son importantes: las personas evalúan si la IA es más capaz que las personas en una tarea determinada, y si la tarea requiere personalización. Las personas preferirán IA solo si piensan que la IA es más capaz que los humanos y la tarea no es personal».
Agrega: «La idea clave aquí es que la alta capacidad percibida por sí sola no garantiza la apreciación de la IA. La personalización también es importante».
Por ejemplo, las personas tienden a favorecer la IA cuando se trata de detectar fraude o clasificar grandes conjuntos de datos, áreas donde las habilidades de IA exceden las de los humanos en velocidad y escala, y no se requiere personalización. Pero son más resistentes a la IA en contextos como la terapia, las entrevistas de trabajo o los diagnósticos médicos, donde sienten que un humano está mejor capaz de reconocer sus circunstancias únicas.
«Las personas tienen un deseo fundamental de verse a sí mismas como únicas y distintas de otras personas», dice Lu. «La IA a menudo se considera impersonal y operan de manera frecuente. Incluso si la IA está capacitada en una gran cantidad de datos, las personas sienten que la IA no puede comprender sus situaciones personales. Quieren un reclutador humano, un médico humano que puede verlos como distinto de otras personas».
El contexto también es importante: de la tangibilidad al desempleo
El estudio también descubrió otros factores que influyen en las preferencias de los individuos para la IA. Por ejemplo, la apreciación de la IA es más pronunciada para los robots tangibles que para los algoritmos intangibles.
El contexto económico también importa. En países con menor desempleo, la apreciación de la IA es más pronunciada.
«Tiene sentido intuitivo», dice Lu. «Si te preocupas por ser reemplazado por AI, es menos probable que lo abrazaras».
Lu continúa examinando las actitudes complejas y en evolución de las personas hacia la IA. Si bien no ve el metaanálisis actual como la última palabra sobre el asunto, espera que el marco de capacidad-personalización ofrezca una lente valiosa para comprender cómo las personas evalúan la IA en diferentes contextos.
«No estamos reclamando la capacidad y la personalización percibidas son las únicas dos dimensiones que importan, pero de acuerdo con nuestro metaanálisis, estas dos dimensiones capturan gran parte de lo que da forma a las preferencias de las personas para la IA versus los humanos en una amplia gama de estudios», concluye Lu.
Además de Lu, los coautores del periódico son Xin Qin, Chen Chen, Hansen Zhou, Xiaowei Dong y Limei Cao de la Universidad Sun Yat-Sen; Xiang Zhou de la Universidad Shenzhen; y Dongyuan Wu de la Universidad Fudan.
La investigación fue apoyada, en parte, por subvenciones a Qin y Wu de la Fundación Nacional de Ciencias Naturales de China.
