A few days ago we informed you that AI has surpassed human capabilities in almost every field. At least in a series of performance-based tasks. But in the world of artificial intelligence, not everything is positive, as we are about to see.
El informe AI Index 2024, recientemente publicado por el Instituto de Inteligencia Artificial Centrada en el Ser Humano (HAI) de la Universidad de Stanford, examina minuciosamente el impacto global de la IA.
Ahora que la IA está integrada en muchos aspectos de nuestras vidas, debemos asumir la responsabilidad de su contribución, especialmente en sectores importantes como la educación, la salud y las finanzas.
Sí, incorporar la IA puede traer ventajas – optimización de procesos y productividad, descubrimiento de nuevos medicamentos, por ejemplo – pero también conlleva riesgos.
¿En qué campos se debe medir la IA?
Según el nuevo informe del Índice de IA, los modelos de IA verdaderamente responsables deben cumplir con las expectativas del público en áreas clave: privacidad de datos, gobernanza de datos, seguridad y protección, equidad y transparencia, y explicabilidad.
- Data privacy safeguards the confidentiality, anonymity, and personal data of an individual. It includes the right to consent and be informed about the use of data.
- Data governance includes policies and procedures that ensure data quality, focusing on ethical use.
- Security includes measures that guarantee system reliability and minimize the risk of misuse of data, cyber threats, and inherent system errors.
- Impartiality means using algorithms that avoid bias and discrimination and adhere to broader social concepts of equity.
- Transparency means openly sharing data sources and algorithmic decisions, as well as considering how AI systems are monitored and managed from creation to operation.
- Explainability refers to developers’ ability to explain the foundations of their AI-related decisions in understandable language.
Para el informe de este año, los investigadores de Stanford colaboraron con Accenture para encuestar a 1,000 organizaciones en todo el mundo y preguntarles qué riesgos consideraban relevantes. El resultado fue la encuesta Global State of Responsible AI.
En esta encuesta, los datos dejaron claro que la IA es muchas cosas, pero ninguna de ellas es: responsable con la privacidad de los datos, la gobernanza de los datos, la seguridad y protección, la imparcialidad y transparencia, y la explicabilidad.
Incluso hablan de la IA quedándose sin datos de entrenamiento. Con los avances realizados en el aprendizaje automático, surge una pregunta obvia: ¿Los modelos se quedarán sin datos de entrenamiento?
Según investigadores de Epoch AI, quienes contribuyeron con datos al informe, no se trata de si nos quedaremos sin datos de entrenamiento, sino de cuándo. Estiman que los científicos de la computación podrían agotar los datos lingüísticos de alta calidad tan pronto como este año, los datos de baja calidad en un plazo de dos décadas y los datos de imágenes entre finales de la década de 2030 y mediados de la década de 2040.
