As Inteligências Artificiais (IAs) vêm ganhando cada vez mais espaço na sociedade. Em novembro de 2022, o chat GPT foi lançado pela OpenAI e se popularizou, registrando mais de um milhão de usuários em cinco dias. Com esses avanços tecnológicos, surgiram também questionamentos: será que esses serviços podem ter uma projeção racista e misógina?

As IAs funcionam por meio da alimentação de dados. Quanto mais os sistemas são alimentados com informações, mais precisos os programas serão desenvolvidos. Joana Varon, diretora executiva da Coding Rights, organização que traz um olhar feminista interseccional no desenvolvimento, regulação e uso das tecnologias, explica que os sistemas inteligentes são bases de dados que analisam e criam padrões de comportamento. “É isso que chamamos de inteligente, porque se torna progressivo. A máquina aprende e refina os modelos de resposta”, explica Joana.

Um olhar feminista para as tecnologias

A diretora defende que é necessário um olhar feminista na construção tecnológicapara contrapor o modelo de negócio predominante atualmente, que gira em torno das grandes multinacionais.

É importante uma visão não apenas de gênero, mas que situe diferentes corpos, territórios, necessidades e culturas. Precisamos de uma mudança estrutural de autonomia tecnológica, para desenvolver projetos otimistas e menos danosos à população mais vulnerabilizada

relata Joana.

Kátia Cristina Marcolino, coordenadora dos cursos de Tecnologia da Informação (T.I) da Faculdade de Educação Paulistana (FAEP), relata que os programas que geram as IAs são definidos por padrões estabelecidos por seres humanos, por isso se faz importante políticas de diversidades nas empresas.

A participação feminina na matemática é baixa, e ainda pior ao levar em consideração a população negra e LGBTQIAP+. Como exigir diversidade ao algoritmo se o alimentamos com o padrão masculino, branco e heteronormativo?

questiona Kátia.

O artigo “Mulheres na ciência no Brasil: ainda invisíveis?”, publicado pela pesquisadora Fernanda De Negri, do Instituto de Pesquisa Econômica Aplicada (Ipea), mostrou que, em 2019, as mulheres representam menos de 25% nas ciências da computação e matemática. O levantamento “Panorama de talentos em tecnologia“, realizado pelo Google for Startups, mostrou que 57% das startups entrevistadas enxergam o mercado de tecnologia atual como excludente para mulheres. Esse número também reflete no desenvolvimento e criação de novos modelos de inteligência artificial.

Para reverter esses parâmetros, Kátia afirma que devemos tirar o estigma de que brincadeiras que envolvem desafios de lógica são “coisas de menino”. Joana completa reforçando a importância de agrupar pesquisadoras e mulheres de outros campos de movimentos sociais, para pensarem juntas no debate e desenvolvimento de novas tecnologias.