Ilustração por Jafar Safatli para UntoldMag. Usado com permissão. Este post de Donatella Della Ratta foi publicado pela primeira vez por UntoldMag em agosto 14, 2024. Esta versão editada é republicada no Global Voices como parte de um acordo de compartilhamento de conteúdo. .Decolonizar AI. tornou- se um mantra ecoado em várias instituições, desde academia até locais culturais em todo o mundo. Como o reforço da IA está moldando debates públicos globais com elogios excessivos ou terror absoluto, surgiram preocupações enfatizando sua tendência para reproduzir dinâmica colonial de exploração e extração. No entanto, enquanto o mecanismo interno através do qual uma nova forma de colonialismo digital é reativada por tecnologias alimentadas por dados foi amplamente revelado e denunciado, as estratégias para combatê- lo permanecem menos claras.

Ameera Kawash, artista e pesquisadora palestiniana-iraquiana, cujos projetos interdisciplinares situam poderosamente a sua prática artística dentro dos estudos críticos de IA, está desafiando o setor tecnológico discriminatório e represivo. Untold Mag (UM): O que significa realmente descolonizar IA e como podemos implementá-la como prática? Ameera Kawash (AK): A decolonização da IA é um esforço de várias camadas, exigindo uma reação contra a filosofia do. computação universal. Uma abordagem que é ampla, universal e muitas vezes sobrepõe o local. Devemos contrabalançar isso com abordagens variadas e localizadas, focando-se no trabalho, impacto ecológico, corpos e encarnação, quadros de consentimento feministas e a violência inerente à divisória digital.

Este pensamento holístico deve conectar o uso militar de tecnologias alimentadas com IA com seus aplicativos aparentemente inocentes e diários em aplicativos e plataformas. Ao explorar e desvelar o vínculo interno entre esses usos, podemos entender como a normalização das aplicações de IA cotidianas às vezes legitima mais extremo e emprego militar dessas tecnologias. Existem caminhos normalizados e formas de rotina para a violência incorporadas na própria infraestrutura da IA, como a forma como os avisos (as instruções escritas ou as consultas que damos às ferramentas da IA) são renderizados em imagens reais. Este processo pode contribuir para deshumanizar as pessoas, tornando- as alvos legítimos tornando- as invisíveis. Tome a Palestina como exemplo: quando experimentei simples indicações como. Criança palestiniana em uma cidade ou. Mulher palestiniana caminhando, as imagens geradas por IA frequentemente representam cenários que normalizam a violência contra os palestinianos. A criança é mostrada correndo de um edifício em colapso, com devastação urbana total no fundo. A destruição é ubiquidade, mas o autor desta violência, Israel, nunca é responsabilizado visualmente.

Estas imagens geradas por IA contribuem para moldar uma narrativa padrão onde, sem contexto ou razão, os palestinianos são retratados como vivendo em devastação perpétua. Este tipo de imagens perpetua uma narrativa viés e prejudicial, reforçando a normalização da violência contra eles como resultado de mais deshumanização. O que eu chamo de.futuricida do povo palestiniano deriva de uma interação complexa entre como os dados são treinados — raspando a internet em grande escala e absorvendo todas as representações estereotipadas existentes que circulam na web — e, em seguida, generalizando estes dados, tornando- o tipo de.universal.. Como AI gera padrões e modelos, cristaliza categorias. A cidade palestiniana resultante dos meus prompts corre o risco de se tornar a cidade palestiniana — uma entidade quintessencial e solidificada, onde o sofrimento é transformado em um item puramente visual que se comercializa infinitamente através da IA gerativa em todas as suas formas e aspectos. Estes efeitos traumáticos ocorrem sem um autor visível, resultando em uma ocupação sem um ocupante. Ele reflete um filme de horror: devastação pura sem causa ou razão, apenas violência e trauma insensatos.

UM: Se nós desmontarmos os fundamentos coloniais incorporados na criação e estrutura padrão da IA como concebida hoje, onde devemos começar? AK: Acredito que devemos começar a partir de instâncias locais muito pequenas. Por exemplo, estou trabalhando para envolver instituições culturais do mundo real na criação de conjuntos de dados, desenvolvendo assim modelos altamente curados e personalizados para treinar IA sem raspar a internet. Esta abordagem ajuda a resistir à exploração que normalmente sustenta a fabricação e o treinamento dessas tecnologias, que é também onde a maioria dos vieses são introduzidos. Decolonar IA significa eliminar este aspecto explorador e virar- se para mais trabalho curado, artesanal e práticas de cuidado.

É claro que esta abordagem não é escalonável, e talvez isso faça parte do problema. Conceber o digital como quintesencialmente escalable torna- o colonial, comercial e mercantilizado por padrão. Pode ser que descolonizar AI, como projeto, é inerentemente inoperante — a aprendizagem automática, na sua estrutura atual e concepção, oferece pouco espaço para práticas de descolonial. No entanto, ao colaborar com instituições do mundo real, como universidades e centros culturais para criar conjuntos de dados de treinamento, podemos abordar pelo menos uma camada do problema: coleta de dados. Há muitas camadas envolvidas na IA, que devem ser consideradas ao tentar descolonizar. Começando com a coleta de dados é um primeiro passo significativo, mas precisamos reconhecer que uma abordagem abrangente exigirá abordar cada camada do processo. Por exemplo, mesmo que a informação seja coletada de forma justa, curada meticulosamente e que seja dado o consentimento, o modelo de treinamento pode ser explorador em si mesmo. O ato de transformar os dados em rótulos e categorias e universalizá- los é inerentemente problemático e faz muito parte do legado colonial. Ele pode perpetuar vieses e reforçar estruturas prejudiciais, independentemente da equidade da coleta inicial de dados.

Para mim, seria útil pensar sobre IA no quadro de práticas de arquivo críticas. Os dados são um recurso precioso do passado em que o conhecimento futuro é construído. Entendendo a IA como uma extensão da prática de arquivo permite- nos avaliar criticamente como coletamos, categorizamos e utilizamos dados, garantindo que a abordagem seja feita com o mesmo cuidado, consentimento e consciência contextual que havemos feito com qualquer outro material de arquivo. Há sempre um critério de seleção e um princípio de organização guiado por escolha. Para criar um arquivo decolonial ou anticolonial, devemos adotar perspectivas feministas e incluir outras formas de conhecimento além das tradicionais baseadas em línguas. Como artista, isto é integral ao meu trabalho diário — eu me envolvo com formas não tradicionais de saber e aprender que são encarnadas e efêmeras, portanto, menos propensos a ser datafied e mercantilizadas. E, no entanto, se nós fossemos realmente descolonizar a IA, seria o mesmo objeto, ou seria algo totalmente diferente? A imagem.Todos os olhos do Rafah. que virou no Instagram em maio 2024. Imagem do Wikimedia Commons. Domínio público.

UM: E o papel da IA gerativa na divulgação da consciência sobre o genocídio em Gaza? Por que o ї Todos os olhos no Rafah ї imagem sintética tornou-se viral, enquanto tantas imagens baseadas em evidências que oferecem provas do massacre desapareceram da atenção pública? AK: Muitos elementos contribuíram para a viralidade desta imagem gerada por IA. Em primeiro lugar, o texto legível incorporado na imagem permitiu que ele evitasse a censura contemporânea da plataforma, facilitando a partilha exponencial. Em segundo lugar, as pessoas provavelmente perceberam como uma imagem.safe. — é desinfectada e livre de violência explícita, tornando- a mais agradável para a disseminação generalizada.

Os visuais habitam um espaço seguro, que é o espaço da IA, não da Palestina. Remover o contexto específico cria uma distância confortável para os espectadores. Do ponto de vista palestiniano, isso é altamente problemático, pois contribui para o processo colonial de deshumanização e eliminação da população local. Os palestinianos são redactados da imagem, como se suas experiências vividas não fossem credíveis ou não contassem de todo. A mensagem também é problemática:.Todos os olhos no Rafah. O que significa realmente? Ele não sugere ações ou chama a agência pessoal em questão. Ele não o exorta a protestar, entrar em contato com o seu MP ou exigir sanções contra Israel. Ele não o empurra para fazer algo concreto; é muito passivo. O mundo inteiro está olhando, testemunhando genocídio em tempo real, o que pode ser uma forma mais sofisticada de clictivismo. Fazer o mínimo absoluto — apenas compartilhar uma imagem — dá uma falsa sensação de ter contribuído, de ter feito algo.

Claro, o aspecto positivo é que 50 milhões de pessoas compartilharam- o em plataformas. No entanto, os palestinos não querem viralizar e ser invisíveis ao mesmo tempo. Precisamos de viralidade para trabalhar para nós, para acabar com a violência. O que aconteceria se estas tecnologias alimentadas com IA fossem usadas para afirmar futuros palestinianos em vez de contribuir para a sua aniquilação? Esta pergunta guia minha prática. A tecnologia é parte integrante do discurso sobre o futuro, e nós palestinos precisamos fazer parte do futuro. Devemos estar envolvidos na sua formação, não na sua remoção.