El algoritmo de Facebook está acusado de ayudar a difundir el odio y la violencia durante la guerra civil en Etiopía.
La acusación aparece en la demanda que interpuso un grupo de personas contra Meta, dueña de Facebook. Entre los denunciantes se encuentra Abrham Meareg, hijo de un académico etíope que fue asesinado a tiros luego de ser atacado en publicaciones que aparecieron en la red social.
Los demandantes exigen la creación de un fondo de $ 2 mil millones para las víctimas del odio en Facebook y que la empresa adopte cambios en el algoritmo de su plataforma.
Desde Meta aseguran que han invertido en moderación y tecnología para eliminar mensajes que inciten a la violencia.
Un representante de la empresa dijo que El discurso del odio estaba prohibido.
“Nuestro trabajo de seguridad e integridad en Etiopía está guiado por los comentarios de las organizaciones locales de la sociedad civil y las instituciones internacionales”, dijo el portavoz.
calumnia
El caso contra Meta se presentó ante la Corte Suprema de Kenia y cuenta con el apoyo de Foxglove, una organización que lucha para que las empresas tecnológicas ofrezcan un trato igualitario a todos sus usuarios.
Abrham Meareg quiere que Facebook se disculpe personalmente con su familia y tome medidas para evitar la difusión de mensajes de odio.
Meta tiene un centro de moderación de contenido en Nairobi, la capital de Kenia.
Cientos de miles de personas han muerto en el conflicto entre el gobierno etíope y las fuerzas rebeldes en la región norteña de Tigray, y otros 400.000 viven en condiciones de hambruna.
El mes pasado, las partes llegaron a un acuerdo de paz sorpresa, pero recientemente ha habido un aumento en los asesinatos por motivos étnicos entre las comunidades de habla amhara y oromo.
El año pasado, el padre de Meareg se convirtió en una de las víctimas de la violencia del país.
El 3 de noviembre de 2021El profesor Meareg Amare Abrha fue seguido desde la universidad donde impartía clases por hombres armados en motocicletas, que le dispararon a quemarropa cuando se disponía a entrar en su domicilio.
Las amenazas de sus atacantes impidieron que los testigos acudieran en su ayuda mientras yacía sangrando, dice su hijo. Murió tirado en el suelo siete horas después..
A principios de noviembre las autoridades etíopes y los rebeldes de Tigray firmaron un acuerdo que ha puesto fin a más de dos años de conflicto armado en el norte del país africano.
Antes del ataque, el profesor fue calumniado y se reveló información personal a través de publicaciones en Facebook, dijo su hijo.
A pesar de las reiteradas quejas sobre lo que estaba pasando, la plataforma “dejó estas publicaciones hasta que fue demasiado tarde”, agregó.
Uno de los mensajes acaba de ser eliminado. tras el asesinato del profesor.
Y otro, que la plataforma había prometido eliminar, seguía en línea hasta el 8 de diciembre de 2022.
Análisis de Peter Mwai, BBC Reality Check, Nairobi
Esta acción representa un hito en los intentos de reprender legalmente a una empresa de redes sociales por sus acciones durante el conflicto en Etiopía.
Los críticos dicen que Meta y otras compañías de redes sociales hacen poco para evitar que se comparta y se difunda información errónea y contenido que promueva el odio y la incitación contra varios grupos étnicos. Y en algunos casos, el contenido tarda demasiado en eliminarse, principalmente después de que las personas lo denuncian.
Otros dicen que la compañía ha sido injusta en su represión del contenido odioso, centrándose desproporcionadamente en las publicaciones escritas en algunos idiomas.
Meta siempre ha insistido en que ha invertido mucho en la capacidad de capturar contenido de odio e incendiario en los idiomas más hablados del país.
Tiene moderadores de contenido familiarizados con los principales idiomas locales, pero también se basa en inteligencia artificial y socios locales para marcar el contenido. Y nunca ha estado claro cuántos moderadores trabajan con Meta con un enfoque en Etiopía.
La ex directora ejecutiva de Facebook, Frances Haugen, lanzó duras acusaciones contra la plataforma en audiencias ante el Senado estadounidense.
“Lamentablemente inadecuado”
“Si Facebook hubiera detenido la propagación del odio y moderado las publicaciones correctamente, mi padre aún estaría vivo”, dijo Meareg.
El actor aseguró que quiere evitar otra familia sufre como la tuyamientras exige “una disculpa personal” de Meta.
En una declaración jurada presentada ante el tribunal, Meareg alegó que el algoritmo de Facebook promueve contenido “de odio e incitación”, porque es probable que atraiga más interacción de los usuarios.
También afirmó que la moderación de contenido de Facebook en África es “lamentablemente inadecuada”, con muy pocos moderadores que se ocupen de publicaciones en idiomas como amárico, oromo y tigrinya.
Desde Meta aseguran que ya están tomando medidas para combatir la difusión, en su plataforma, de mensajes que inciten al odio o la violencia contra determinados grupos sociales.
Meta, propietaria de Facebook, le dijo a BBC News: “Empleamos personal con conocimiento y experiencia local. Y continuamos desarrollando nuestras capacidades para detectar contenido infractor en los idiomas más hablados en el país, incluidos amárico, oromo, somalí y tigrinya”.
Las empresas sostienen que Etiopía es una alta prioridad, a pesar de que menos del 10% de la población usa Facebook, y explicaron que los pasos que han tomado incluyen:
- Reducir la viralidad de las publicaciones.
- Agrandar políticas de prevención contra la violencia y su incitación.
Pero esta no es la primera vez que se acusa a Facebook de hacer muy poco para detener la difusión de contenido que promueve el odio étnico y la violencia en Etiopía.
En 2021, Frances Haugen, exempleada de la plataforma, afirmó ante el Senado de los Estados Unidos que el algoritmo de la plataforma era “alientaEn g violencia étnica (…) atrapar los sentimientos extremos, la división” ya que esas publicaciones atrajeron mucho compromiso.
También dijo que Facebook no podía identificar adecuadamente el contenido peligroso y carecía de suficiente experiencia en muchos idiomas localesincluyendo algunos hablados en Etiopía.
De prosperar la demanda en Etiopía, Meta podría ser condenada a tener que realizar importaciones, inversiones y cambios en sus sistemas.
Otros demandantes en el caso incluyen al Instituto Katiba y Fisseha Tekle, quienes acusaron a Amnistía Internacional de que las fallas de moderación de Facebook hicieron que Amnistía Internacional no pudiera informar sobre los derechos humanos en el conflicto y arriesgó la vida de su familia.
Los demandantes piden a los tribunales del país africano que ordenen a Facebook que tome medidas para remediar la situación, entre ellas:
- Crear un fondo de restitución de aproximadamente 200.000 millones de chelines kenianos (1.600 millones de dólares) para las víctimas del odio y la violencia incitados en Facebook y otros 50 mil millones (US$400 millones) por daños similares causados por publicaciones patrocinadas.
- Evite que su algoritmo recomiende “contenido incitador, odioso y peligroso”.
- Y emplee suficientes moderadores para traducir el contenido local, asegurando Equidad entre Nairobi y EE. UU. es tiempo de moderadosr contenido de usuario.
Ahora puedes recibir notificaciones de BBC Mundo. Descarga la nueva versión de nuestra app y actívalas para no perderte nuestro mejor contenido.
EL IMPARCIAL, ahora en su versión en web online, es el periódico líder al Noroeste de México y en Sonora, con una cobertura informativa oportuna y veraz en materia de noticias de actualidad y relevantes.