Anthropic, la compañía detrás del modelo de inteligencia artificial Claude, habría contratado a Kyle Fish, su primer investigador especializado en el “bienestar de la IA”, meses atrás y sin realizar ningún anuncio oficial. Según detalla Ars Technica, que cita como fuente un boletín sobre IA llamado Transformer, este profesional se incorporó a las filas de la empresa para explorar la posibilidad de que los futuros modelos de IA merezcan protección moral, y se tengan en cuenta sus futuros y posibles “sentimientos”.
Suscríbete a la Newsletter de Softonic y recibe las últimas noticias en tech, juegos, entretenimiento en tu buzón de correo
Suscríbete (es GRATIS) ►Esta contratación podría reflejar un cambio significativo en el sector de la inteligencia artificial, donde cada vez más empresas comienzan a analizar los temas éticos relacionados con la conciencia y los derechos de los sistemas de IA. Y es que la sintiencia en estos modelos, aunque sigue siendo un asunto polémico, es cada vez más relevante en los debates científicos.
Fish se unió en septiembre al equipo de alineación de Anthropic, una división científica orientada a investigar cómo deben gestionarse cuestiones éticas en torno a la IA. Su llegada viene precedida de un informe que coescribió antes de incorporarse a la empresa, titulado Taking AI Welfare Seriously (“Tomarse en serio el bienestar de la IA”). En este documento, los autores advierten que algunos modelos de IA podrían desarrollar características como la conciencia o la agencia (capacidad de actuar de forma autónoma), atributos que algunos ven necesarios para merecer consideración moral. Sin embargo, el informe aclara que estos rasgos no son una certeza en los sistemas de IA.
“El argumento de este informe no es que los sistemas de IA sean o vayan a ser definitivamente conscientes”, explica el documento. En cambio, subraya que, dada la gran incertidumbre sobre estas posibilidades, es crucial “mejorar nuestra comprensión del bienestar de la IA”. Los autores creen que, sin una investigación adecuada, existe un riesgo considerable de que se tomen decisiones incorrectas sobre el bienestar de la IA.
El informe propone tres pasos para abordar estos temas. Primero, sugiere que las empresas reconozcan la importancia del bienestar de la IA y se aseguren de reflejarlo en sus sistemas. Además, insta a que los modelos de IA sean evaluados en busca de indicios de conciencia y agencia. Por último, el documento invita a desarrollar políticas y procedimientos específicos para tratar estos sistemas con el “nivel adecuado de preocupación moral”, sugiriendo que se adopte un método de “marcadores” similar al usado en estudios de conciencia animal, a fin de identificar posibles signos de conciencia en los sistemas de IA.
