parágrafo crítico das discussões sobre IA
No texto “A Falsa Promessa do ChatGPT”, publicado no jornal The New York Times em 2023, os autores discorrem sobre a moralidade do uso de Inteligência Artificial (IA), linguagem e conhecimento e porquê algumas das promessas dos cientistas sobre IA são vazias. Durante as aulas de Ateliê Integrado de Arquitetura da UFMG, foi discutido sobre quem está utilizando IA, como essa ferramenta pode ser utilizada, e com qual objetivo ela está sendo manuseada e produzida.
Devemos considerar que a Inteligência Artificial não é uma ferramenta criativa, ela usa o que já existe - ou seja, dados criados e utilizados antes. Dessa forma, sua premissa é apresentar múltiplas perspectivas, previsões e análises de forma imparcial, baseado em todo o conhecimento categorizado por ela anteriormente. Contudo, apesar da IA não ter crenças ou capacidade de fazer julgamentos morais ou imorais, os usuários, programadores, dados e algoritmos utilizados na criação desse tipo de inteligência têm. Logo, ela pode perpetuar ou ampliar ideias existentes a partir dos dados em que é treinada, gerando decisões e pensamentos parciais. É dessa ideia que nasce o termo ‘viés algorítmico’: essa tecnologia pretensamente neutra produz ou ajuda a reproduzir desigualdades. Segundo a doutoranda em Sociologia pela USP, Letícia Simões Gomes, “algoritmos discriminam por excelência— essa é a função dele. Ao categorizar, ele discrimina no sentido literal do verbo, de separar uma coisa da outra. A questão é que existem formas de categorizar que são moralmente condenáveis e outras não”. É necessário, então, questionar se é possível gerenciar essa tecnologia de forma ética. Os problemas acerca da Inteligência Artificial são parte de um todo muito maior, é impossível resolver o viés algorítmico sem antes solucionar os vieses e desigualdades da sociedade. Sendo assim, torna-se importante não pensar na tecnologia como algo dissociado do corpo social, mas como um reflexo, sendo esta o produto de indivíduos que possuem e perpetuam desejos e opiniões políticas.
