Derecho e instituciones
La soberanía algorítmica māori exige gobernar los datos antes de entrenar el sistema
“Cuando esos datos alimentan un sistema automatizado, el problema no desaparece dentro del código. El algoritmo selecciona variables, fija objetivos, clasifica casos y distribuye consecuencias; por tanto, prolonga decisiones sobre los datos.”
La soberanía de datos suele describirse como una cuestión de jurisdicción: la información queda sujeta a las normas del territorio donde se almacena. Te Mana Raraunga plantea una base distinta para los datos māori: deben estar sujetos a gobernanza māori.
Esa posición parte de que los datos sobre personas, pueblos, lenguas y entornos relacionados con Māori no son materia prima sin dueño. Pueden ser taonga y poseen valor estratégico para aspiraciones colectivas, no solo utilidad para una institución que los captura.
Cuando esos datos alimentan un sistema automatizado, el problema no desaparece dentro del código. El algoritmo selecciona variables, fija objetivos, clasifica casos y distribuye consecuencias; por tanto, prolonga decisiones sobre los datos.
Te Mana Raraunga sostiene que los derechos e intereses māori deben reconocerse cuando sistemas algorítmicos usan datos aplicables a poblaciones o entornos sobre los que Māori mantienen relaciones y responsabilidades.
El trabajo académico sobre soberanía algorítmica māori extiende principios ya empleados en investigación y administración. No añade una capa ceremonial al final: reformula principios y subprincipios para el contexto específico de los algoritmos.
Esto desplaza la evaluación. Medir sesgo o precisión sigue siendo necesario, pero no basta para determinar legitimidad. También importan la autoridad para definir el problema, la participación en la gobernanza, el acceso, la rendición de cuentas y la posibilidad de rechazar ciertos usos.
El marco permite examinar algoritmos existentes con una intención de descolonización. Pregunta qué categorías heredaron, qué intereses priorizan y qué relaciones de poder presentan como si fueran simples decisiones técnicas.
También abre una vía constructiva: diseñar sistemas futuros desde valores māori, en lugar de adaptar tarde un modelo creado con supuestos externos. Los autores describen esta posibilidad como indigenizar algoritmos.
La soberanía algorítmica no significa que toda decisión deba resolverse mediante un modelo culturalmente aislado. Significa que las comunidades afectadas no pueden quedar reducidas a proveedoras de datos o destinatarias de una clasificación ajena.
El cambio de mirada es práctico: antes de reunir un conjunto de entrenamiento hay que definir gobernanza, propósito, derechos y límites. La arquitectura ética comienza antes que la arquitectura del modelo.
Un sistema algorítmico empieza a tomar decisiones mucho antes de entrenar un modelo. Alguien decide qué datos se recogen, con qué categorías, bajo qué permiso y para qué propósito. Si esas decisiones ya separan información māori de la autoridad colectiva que le da sentido, el entrenamiento posterior hereda el problema aunque el código sea técnicamente preciso.
La soberanía de datos exige gobernar procedencia, acceso y reutilización. No basta con anonimizar nombres individuales cuando un conjunto puede referirse a un iwi, a conocimiento colectivo o a lugares sensibles. El daño puede recaer sobre una comunidad incluso si ninguna fila identifica directamente a una persona.
Las categorías también ejercen poder. Un sistema puede forzar identidades, parentescos o conocimientos dentro de etiquetas creadas para otra administración. Esa reducción no es solo error estadístico: determina qué patrones serán visibles y qué decisiones parecerán justificadas. Revisar la taxonomía es parte del gobierno del sistema.
El consentimiento debe abarcar usos futuros. Autorizar una encuesta o un archivo no equivale automáticamente a permitir entrenamiento comercial, generación de contenido o inferencia de rasgos. La distancia entre propósito original y nueva aplicación aumenta cuando los datos pueden copiarse y combinarse a gran escala.
Gobernar antes del entrenamiento implica capacidad real de decir no, establecer condiciones y retirar acceso. Un comité consultivo sin autoridad sobre almacenamiento, proveedores o despliegue puede producir recomendaciones que el sistema ignora. La soberanía necesita controles técnicos y contractuales además de principios.
La evaluación del modelo tampoco puede limitarse a precisión global. Hay que observar errores por grupo, efectos sobre lengua y cultura, posibilidades de apropiación y quién recibe beneficios. Un sistema puede mejorar una métrica y seguir debilitando control comunitario si transforma conocimiento en servicio externo sin retorno ni autoridad compartida.
Esto no implica rechazar toda inteligencia artificial. Los principios māori pueden orientar proyectos de lengua, salud o administración cuando objetivos y gobernanza son definidos con participación sustantiva. La diferencia está en quién formula el problema, quién conserva los datos y quién puede detener el uso.
La soberanía algorítmica desplaza la pregunta desde “¿es bueno el modelo?” hacia “¿quién gobierna todo el ciclo?”. Entrenar es una fase intermedia. Antes están la relación, el permiso y la clasificación; después, el despliegue, la vigilancia y la reparación. Si la comunidad solo aparece al final para validar una interfaz, las decisiones decisivas ya fueron tomadas en otro lugar.
Una contratación responsable debe traducir estos principios en cláusulas verificables. El proveedor debería declarar dónde almacena los datos, qué subcontratistas intervienen, si reutiliza entradas para otros modelos, cómo ejecuta una retirada y quién audita los resultados. También debe existir una salida práctica: exportar datos, revocar credenciales y detener inferencias sin perder servicios esenciales. Sin esos controles, la soberanía queda como declaración ética mientras la infraestructura continúa obedeciendo decisiones externas.
VerificaciónFuentes consultadas · 3
Sigue mirando
Artículos relacionados
Se conecta porque ambos investigan «Derecho e instituciones» desde casos y épocas diferentes.
El Estado castigaba en público lo que archivaba en secreto
“La herejía no era desconocida por quienes la castigaban: estaba documentada en los archivos que solo ellos podían consultar.”
Se conecta porque ambos investigan «Derecho e instituciones» desde casos y épocas diferentes.
La avería gruesa convierte una carga sacrificada en una pérdida compartida
“La regla parece extraña porque rompe la relación habitual entre propiedad y pérdida. Si una caja pertenece a una empresa, esperaríamos que esa empresa cargara con su destrucción. En el mar, sin embargo, arrojar esa caja puede crear un beneficio compartido: aligerar el buque, controlar un incendio o hacer posible una entrada segura en puerto. La pérdida privada funciona entonces como una operación de rescate para un conjunto de propietarios que quizá ni siquiera se conocen.”
Se conecta porque ambos investigan «Derecho e instituciones» desde casos y épocas diferentes.
Un sello convirtió una impresión en autoridad transportable
“Los museos conservan sellos junto a impresiones modernas porque el objeto tallado no revela por sí solo la imagen completa. La autoridad administrativa residía en la relación entre matriz e impresión: una misma herramienta podía dejar su signo en distintos soportes y acompañar transacciones separadas en tiempo y lugar. El mecanismo importa porque explica qué trabajo se trasladó desde la improvisación hacia un procedimiento repetible.”