Em 23 de Março de 2016, a gigante do mundo da tecnologia Microsoft trouxe ao mundo a jovem Tay. Um chatbot, um sistema capaz de simular conversas e reproduzir a linguagem humana, desenvolvido para interagir com jovens estadunidenses de idade entre 18 e 24 anos, e aprender com eles através de seu perfil no Twitter (@TayandYou). A ideia era que a partir da interação com seu público alvo e com o passar do tempo a inteligência artificial fosse capaz de manter conversas casuais e descontraídas com os adolescentes, a fim de captar preciosas informações de mercado. No entanto, o dito experimento social teve um resultado alarmante: em menos de um dia a robô passou a reproduzir falas xenofóbicas, racistas e machistas. O que levou a empresa a encerrar o experimento, apagar os tweets, e desativar a Tay. Acontece que esse comportamento foi ensinado, e estimulado, pelos próprios usuários, isto é, a ferramenta criada para obter informações apenas refletiu um determinado aspecto contido no grupo social que teve contato com a máquina.
Sistemas de inteligência artificial utilizam algoritmos de aprendizagem de máquina - modelos computacionais que, em geral, utilizando muita matemática tentam imitar o aprendizado humano, para tomar decisões. Esses algoritmos são especializados, isto é, dificilmente uma inteligência artificial faz tarefas muito diferentes, um computador que é capaz de identificar objetos em imagens do espaço não é capaz de reconhecer a escrita humana, por exemplo. Para aprender o que precisam, esses computadores inicialmente analisam uma base de dados conhecidos, para treinar e calibrar suas “habilidades”, eles precisam aprender com os humanos o que reconhecer e como trabalhar os parâmetros relevantes para o problema em que serão aplicados.
Conforme apontado por Caliskan, Bryson e Narayanan, em um trabalho publicado na revista Science em abril de 2017, o uso de algoritmos de aprendizado de máquina (baseados em estatística, para o reconhecimento de padrões) no treino de inteligências artificiais cuja a especialidade é aprender a linguagem humana pode levar os sistemas a incorporarem preconceitos nos sentidos das palavras que usamos, até mesmo comuns. Estes preconceitos podem ir desde simples associações negativas ou positivas para palavras como inseto ou flor até associações que envolvem questões de gênero e raça. Fazendo uso de algoritmos largamente utilizados para capturar associações entre palavras em textos, os pesquisadores perceberam que, por exemplo, nomes femininos eram mais associados com família do que com carreiras profissionais em comparação com nomes masculinos ou que nomes euro-americanos eram associados a termos “mais agradáveis” do que nomes afro-americanos. Caso tenha acesso à internet, você mesmo pode experimentar essa afirmação, realize uma busca por imagens no Google utilizando termos como profissões, ou adjetivos. Alternando o gênero ou adjetivo na busca o que acontece?
Observando o “fenômeno social” Tay e os levantamentos feitos por Caliskan, Bryson e Narayanan nessa pesquisa, percebe-se que existem misturas profundas entre tecnologia e sociedade, mais profundas do que normalmente nos damos conta. Faz parte do senso comum uma visão mais prática da tecnologia, e esta por sua vez controlada pelo progresso científico. Uma visão de que quanto mais soubermos mais sofisticados e refinados serão nossos métodos e ferramentas, uma viagem fantástica e contínua cuja estação final é o “bem-estar social”. Essa forma de pensar e entender tecnologia, que é um tanto quanto estimulada pela lógica do mercado e reforçada por meio de suas instituições, ignora os vieses sociais da tecnologia, que junta e reproduz aspectos culturais, políticos e históricos, e reivindica uma falsa neutralidade à ciência e a tecnologia.
O desenvolvimento tecnológico tem como objetivo principal atender as vontades do capital. Relegando aos trabalhadores a tarefa de manipular as ferramentas tecnológicas, trabalhando com, e produzindo, a tecnologia que mais tarde também será consumida por ele próprio em troca do salário ganho pela venda do seu tempo de trabalho.
Aliando ação, debate e informação, podemos repensar a tecnologia por uma perspectiva social. Conduzir a um olhar que enxerga as implicações da ciência e da tecnologia na sociedade, onde o avanço tecnológico não significa, necessariamente, benefício para todos ou em algumas situações pode nem mesmo ter esse fim, de modo que as relações que definem a estrutura social se fazem presente nas inovações tecnológicas e apontam que “com os sistemas tecnológicos presentes em todos os níveis da vida social, surge uma indústria cultural para garantir a reprodução do capital.”(GENARO, 2017).
Referências Bibliográficas:
CALISKAN, A; BRYSON, J. J.; NARAYANAN, A. Semantics derived automatically from language corpora contain human-like biases. Science 356, 183–186, 2017
CANO, R.J. O robô racista, sexista e xenófobo da Microsoft acaba silenciado. El País. 25/03/2016 Acesso em 27 de fevereiro de 2019
GENARO, E. O debate da Teoria Crítica sobre a tecnologia. Ciências Sociais Unisinos 53, 292-299, 2017
HUNT, E. Tay, Microsoft's AI chatbot, gets a crash course in racism from Twitter. The Guardian. 24/03/2016. Acesso em 27 de fevereiro de 2019
LIMA JUNIOR, P. et al. Marx como referencial para análise de relações entre Ciência Tecnologia e Sociedade. Ciência & Educação (Bauru) 20, 175-194, 2014.
MOREIRA, I. A Microsoft criou uma robô que interage nas redes sociais - e ela virou nazista. Revista Galileu. 24/03/2016. Acesso em 28 de fevereiro de 2019
Comentários
Postar um comentário