Derecho e instituciones
La soberanía algorítmica māori exige gobernar los datos antes de entrenar el sistema
“Cuando esos datos alimentan un sistema automatizado, el problema no desaparece dentro del código. El algoritmo selecciona variables, fija objetivos, clasifica casos y distribuye consecuencias; por tanto, prolonga decisiones sobre los datos.”
La soberanía de datos suele describirse como una cuestión de jurisdicción: la información queda sujeta a las normas del territorio donde se almacena. Te Mana Raraunga plantea una base distinta para los datos māori: deben estar sujetos a gobernanza māori.
Esa posición parte de que los datos sobre personas, pueblos, lenguas y entornos relacionados con Māori no son materia prima sin dueño. Pueden ser taonga y poseen valor estratégico para aspiraciones colectivas, no solo utilidad para una institución que los captura.
Cuando esos datos alimentan un sistema automatizado, el problema no desaparece dentro del código. El algoritmo selecciona variables, fija objetivos, clasifica casos y distribuye consecuencias; por tanto, prolonga decisiones sobre los datos.
Te Mana Raraunga sostiene que los derechos e intereses māori deben reconocerse cuando sistemas algorítmicos usan datos aplicables a poblaciones o entornos sobre los que Māori mantienen relaciones y responsabilidades.
El trabajo académico sobre soberanía algorítmica māori extiende principios ya empleados en investigación y administración. No añade una capa ceremonial al final: reformula principios y subprincipios para el contexto específico de los algoritmos.
Esto desplaza la evaluación. Medir sesgo o precisión sigue siendo necesario, pero no basta para determinar legitimidad. También importan la autoridad para definir el problema, la participación en la gobernanza, el acceso, la rendición de cuentas y la posibilidad de rechazar ciertos usos.
El marco permite examinar algoritmos existentes con una intención de descolonización. Pregunta qué categorías heredaron, qué intereses priorizan y qué relaciones de poder presentan como si fueran simples decisiones técnicas.
También abre una vía constructiva: diseñar sistemas futuros desde valores māori, en lugar de adaptar tarde un modelo creado con supuestos externos. Los autores describen esta posibilidad como indigenizar algoritmos.
La soberanía algorítmica no significa que toda decisión deba resolverse mediante un modelo culturalmente aislado. Significa que las comunidades afectadas no pueden quedar reducidas a proveedoras de datos o destinatarias de una clasificación ajena.
El cambio de mirada es práctico: antes de reunir un conjunto de entrenamiento hay que definir gobernanza, propósito, derechos y límites. La arquitectura ética comienza antes que la arquitectura del modelo.
Un sistema algorítmico empieza a tomar decisiones mucho antes de entrenar un modelo. Alguien decide qué datos se recogen, con qué categorías, bajo qué permiso y para qué propósito. Si esas decisiones ya separan información māori de la autoridad colectiva que le da sentido, el entrenamiento posterior hereda el problema aunque el código sea técnicamente preciso.
La soberanía de datos exige gobernar procedencia, acceso y reutilización. No basta con anonimizar nombres individuales cuando un conjunto puede referirse a un iwi, a conocimiento colectivo o a lugares sensibles. El daño puede recaer sobre una comunidad incluso si ninguna fila identifica directamente a una persona.
Las categorías también ejercen poder. Un sistema puede forzar identidades, parentescos o conocimientos dentro de etiquetas creadas para otra administración. Esa reducción no es solo error estadístico: determina qué patrones serán visibles y qué decisiones parecerán justificadas. Revisar la taxonomía es parte del gobierno del sistema.
El consentimiento debe abarcar usos futuros. Autorizar una encuesta o un archivo no equivale automáticamente a permitir entrenamiento comercial, generación de contenido o inferencia de rasgos. La distancia entre propósito original y nueva aplicación aumenta cuando los datos pueden copiarse y combinarse a gran escala.
Gobernar antes del entrenamiento implica capacidad real de decir no, establecer condiciones y retirar acceso. Un comité consultivo sin autoridad sobre almacenamiento, proveedores o despliegue puede producir recomendaciones que el sistema ignora. La soberanía necesita controles técnicos y contractuales además de principios.
La evaluación del modelo tampoco puede limitarse a precisión global. Hay que observar errores por grupo, efectos sobre lengua y cultura, posibilidades de apropiación y quién recibe beneficios. Un sistema puede mejorar una métrica y seguir debilitando control comunitario si transforma conocimiento en servicio externo sin retorno ni autoridad compartida.
Esto no implica rechazar toda inteligencia artificial. Los principios māori pueden orientar proyectos de lengua, salud o administración cuando objetivos y gobernanza son definidos con participación sustantiva. La diferencia está en quién formula el problema, quién conserva los datos y quién puede detener el uso.
La soberanía algorítmica desplaza la pregunta desde “¿es bueno el modelo?” hacia “¿quién gobierna todo el ciclo?”. Entrenar es una fase intermedia. Antes están la relación, el permiso y la clasificación; después, el despliegue, la vigilancia y la reparación. Si la comunidad solo aparece al final para validar una interfaz, las decisiones decisivas ya fueron tomadas en otro lugar.
Una contratación responsable debe traducir estos principios en cláusulas verificables. El proveedor debería declarar dónde almacena los datos, qué subcontratistas intervienen, si reutiliza entradas para otros modelos, cómo ejecuta una retirada y quién audita los resultados. También debe existir una salida práctica: exportar datos, revocar credenciales y detener inferencias sin perder servicios esenciales. Sin esos controles, la soberanía queda como declaración ética mientras la infraestructura continúa obedeciendo decisiones externas.
Sigue mirando
Artículos relacionados
Relacionado por tema
En una encuesta de A&A, los astrónomos prefirieron revisión rigurosa y juicio humano a publicar más deprisa
“Al elegir revista, los participantes situaron primero la calidad y la reputación científica. El coste apareció después. La rapidez, las métricas de impacto y el alcance temático importaban, pero no encabezaron la jerarquía.”
Relacionado por tema
En la Inglaterra medieval, un objeto que causaba una muerte podía ser declarado deodand y quedar confiscado
“El procedimiento hacía visible algo que el lenguaje moderno suele apartar: una muerte accidental también tiene una maquinaria, un animal, un vehículo o una herramienta concretos. El deodand fijaba esa presencia material dentro de la investigación.”
