¿Quién decide las reglas para la IA? ¿Puede la IA darle a mis hijos un mejor futuro? ¿Hace la IA del mundo un lugar más peligroso? ¿Puede la IA ayudar a los científicos a curar enfermedades?
Estas son algunas de las preguntas que la gente tiene sobre inteligencia artificial, y Anthropic —la empresa creadora de Claude— está decidida a abordarlas de frente.
Muchas personas tienen una actitud positiva hacia la IA. La usan a diario y ven su potencial para hacer el trabajo y la vida menos laboriosos, transformar la forma en que aprendemos, acelerar el progreso científico y tecnológico, crear nuevas fuentes de prosperidad y resolver algunos de los problemas médicos y sociales más grandes que enfrentamos.
Pero también existen preocupaciones legítimas. Algunos temen la contribución de la IA a la pérdida de empleos. Otros, que pueda devaluar el trabajo creativo. Hay quienes están preocupados por la agencia humana: que la IA afecte nuestra capacidad de pensar por nosotros mismos, de hacer conexiones humanas y de encontrar significado en nuestras vidas. Y muchos se preguntan qué significa si las capacidades de la IA caen en manos equivocadas.
El enfoque de Anthropic
Anthropic es una Public Benefit Corporation — su misión es asegurar los beneficios de los modelos avanzados de IA y mitigar sus riesgos. Esta misión de beneficio público las ha llevado a:
- Invertir en salvaguardas para reducir el riesgo de mal uso
- Investigar el comportamiento y funcionamiento interno de los modelos de IA para alinearlos con objetivos beneficiosos
- Ofrecer sus modelos de IA gratuitamente a científicos
- Lanzar un programa de becas que empareja a usuarios principiantes de Claude con organizaciones sin fines de lucro
Para actuar verdaderamente en beneficio del público, necesitan comprender a fondo las esperanzas y preocupaciones que la gente tiene sobre esta nueva tecnología. Por eso han lanzado una nueva iniciativa de preguntas difíciles.
¿Qué han hecho hasta ahora?
Anthropic ya ha sentado las bases preguntando a miles de personas sus opiniones sobre la IA:
- El Anthropic Public Record: una encuesta pública que en su primera ronda preguntó a 52,000 estadounidenses sobre sus mayores esperanzas y preocupaciones sobre la IA
- Encuesta a 81,000 usuarios de Claude en 159 países y 70 idiomas a través del Anthropic Interviewer
- Docenas de grupos focales presenciales y sesiones con grupos cuyos trabajos y tradiciones se relacionan con los desafíos que plantea la IA
- Estudios sobre el uso de Claude a través de datos anónimos del mundo real
Además, crearon el Anthropic Institute —un esfuerzo de investigación interna con el objetivo de confrontar los desafíos más significativos que la IA planteará a la sociedad— y desde los inicios de la compañía, su Long-Term Benefit Trust ha proporcionado supervisión imparcial sobre la efectividad de su misión de beneficio público.
Cómo participar
Anthropic está pidiendo explícitamente que envíes tus preguntas más difíciles sobre IA: preguntas sobre sus efectos en el empleo, la sociedad y las familias; preguntas sobre cómo lograr el potencial dramático de la IA para la ciencia y la medicina; preguntas sobre hacia dónde nos puede llevar una de las tecnologías más poderosas de la historia humana.
A cambio, la empresa se compromete a rastrear y reportar públicamente las acciones específicas que están tomando para abordar esas preguntas, siendo claros sobre las formas en que podrían quedarse cortos respecto a sus objetivos declarados.
“Para actuar verdaderamente en beneficio del público, necesitamos comprender a fondo las esperanzas y preocupaciones que la gente tiene sobre esta nueva tecnología.”
Esta iniciativa representa un paso importante hacia una IA más transparente y responsable. En lugar de que las decisiones sobre el desarrollo de la IA se tomen a puertas cerradas, Anthropic está abriendo el diálogo al público —un enfoque que merece atención en un momento donde la regulación de la inteligencia artificial es uno de los debates más relevantes de nuestra era.
Sigue explorando estos temas en el blog de DojoFullStack.