Fato & Versão

Especialista em Inteligência Artificial comenta impactos no mundo do trabalho, entre outros, e pontua sobre limites legais

Inteligência artificial (IA) e chatgpt. Termos que invadiram o noticiário nos últimos meses. Mas, afinal, o que são? Dados mostram que o aplicativo do ChatGPT atingiu 100 milhões de usuários em 2 meses. E quais os reflexos desses avanços?

É o que comenta neste espaço o professor Diego Vicentin, cientista social e especialista em Inteligência Artificial e Ciência de Dados. O Professor também é docente do Núcleo Geral Comum de disciplinas humanísticas e do Programa de Mestrado Interdisciplinar em Ciências Humanas e Sociais Aplicadas (FCA/Unicamp), em Limeira.

O que é inteligência artificial?
Inteligência Artificial é um termo bastante amplo e não há consenso a respeito de uma definição precisa. Mas, podemos dizer com certeza que a IA se refere atualmente a uma área de pesquisa e de desenvolvimento científico e tecnológico necessariamente interdisciplinar e que tem raízes na cibernética, ou seja, já tem uma história de mais de 70 anos.

Entre as muitas tentativas de definir a IA, uma das mais interessantes é a que descreve sistemas de IA como "instrumentos de conhecimento”. Um instrumento de conhecimento é um objeto que nos permite conhecer um plano de realidade que não nos é acessível sem a sua mediação. Um microscópio, um telescópio, uma equação, um conceito são todos instrumentos de conhecimento. Os atuais sistemas de IA nos permitem ver padrões e regularidades em grandes volumes de dados, que nós não teríamos condições de analisar sem a utilização destes sistemas. É preciso lembrar que desde o final do século XX nós estamos produzindo dados com rapidez e volume sem precedentes, especialmente a partir do uso massivo dos smartphones.

Os sistemas de IA são uma maneira de extrair conhecimento e valor monetário desse volume crescente de dados. A extração e o tratamento de dados estão no centro do capitalismo contemporâneo, no qual a vigilância desempenha papel importante. Sistemas complexos de IA, por exemplo, comandam a maior parte das operações de compra e venda de ações do mercado financeiro nos dias de hoje.

Assim, os sistemas de IA já tem um papel muito importante na nossa vida cotidiana, escolhendo o que vemos em nossas redes sociais, se temos ou não acesso a crédito, a benefícios sociais, se estamos aptos ou não para uma vaga de emprego, enfim, são incontáveis aplicações possíveis.

O que é o ChatGPT?

O Chat GPT é uma aplicação (ou um aplicativo) de inteligência artificial que tem por objetivo gerar textos que respondam aos comandos de entrada utilizados pelos usuários. Se o usuário entra um comando (ou prompt) em forma de pergunta, o Chat GPT tenta responder a pergunta; se entra uma instrução do tipo: “escreva pequeno conto de ficção científica” você terá como resposta um texto em estilo narrativo que emula com certa competência textos da literatura SF. Há a possibilidade de inserir linhas de código e pedir que o chat GPT verifique se há algum erro, ou utilizá-lo como suporte para escrever aplicações simples.

O ChatGPT é uma versão aprimorada dos chatbots (robôs de bate papo) com os quais conversamos já há algum tempo quando passamos pelo atendimento automático do call center do banco ou da operadora de internet. Os primeiros chatbots de conhecimento do grande público foram lançados para interagir nas redes sociais e rapidamente aderiram a ideais nazistas, de promoção da violência e do preconceito de raça, classe e gênero. Então, uma das tarefas importantes dos desenvolvedores foi conter a contaminação por conteúdo tóxico, esse treinamento, segundo informação da OpenAI, empresa responsável, foi realizado com curadoria humana, onde pessoas classificam se uma resposta foi tóxica ou ofensiva. Este trabalho é geralmente feito em plataformas de contratação de trabalho remoto e precarizado, desempenhado por pessoas residentes em países da periferia do capitalismo.

O aplicativo do ChatGPT atingiu 100 milhões de usuários em 2 meses, enquanto outras redes levaram mais tempo. O que podemos pensar sobre estes números?

A rapidez da expansão do número de usuários, assim como o interesse geral da mídia e mesmo de pessoas que normalmente não seguem tão de perto as inovações tecnológicas, se dá em razão do fato de que, ao usarmos o Chat GPT, nos damos conta de uma realidade que já está aí e que se impõe à nossa percepção. É como se finalmente estivesse caindo a ficha sobre a capacidade e o poder concentrados por sistemas de IA. É cada vez mais difícil negar que os sistemas de IA desempenham um papel central na gestão da nossa vida mental e afetiva, por meio das redes sociais, bem como na distribuição de recursos sociais, de dinheiro e de poder. Mas isso ocorreu sem que nos déssemos conta. Para além de todo o marketing, a interação com o Chat GPT nos obriga a reconhecer o estágio de realidade em que estamos em diversos planos. Isso ajuda a explicar sua rápida expansão e todo o barulho que está causando.

Empresas donas de sistemas de inteligência artificial podem se tornar mais poderosas que governos? Quais os perigos disso?

As grandes empresas do Vale do Silício já são mais poderosas, em termos econômicos e geopolíticos, do que a maioria dos estados nacionais. Elas inclusive colocam em prática sistemas de exploração do trabalho e de extração de dados que recolocam relações de tipo colonial com os países da periferia do capitalismo, inclusive da América Latina. Elas se beneficiam da duração das relações de tipo colonial em várias frentes. Isso vai desde a extração de minérios necessários para a fabricação de componentes eletrônicos até a utilização de mão de obra barata para rotulagem de dados e treinamento de sistemas de IA por meio de plataformas como a Mechanical Turk, da Amazon.

Agora, Estados Imperiais e imperialistas como EUA, China, Rússia e a própria União Europeia (que não é um estado, obviamente, mas um bloco) ora se alinham aos interesses das grandes plataformas e ora fazem frente a esse poder. Trata-se de uma relação tensa. Recentemente nós vimos como alguns bancos vinculados ao capital de risco investido em empresas do tipo startups foram à falência e logo foram resgatados com dinheiro público estadunidense. Algumas empresas servem aos interesses de alguns estados e vice-versa.

O principal perigo que vejo é justamente o fato de que nós, enquanto cidadãos, temos pouca ou nenhuma capacidade de influência no controle das atividades destas empresas. Elas conseguem definir os padrões de funcionamento da Internet bem como o aparato legislativo e regulatório que incide sobre elas. Em 2023 completamos dez anos desde as revelações de Edward Snowden, que trouxe a público um grande esquema de vigilância colocado em prática pela agência de segurança nacional dos EUA com a colaboração próxima das grandes empresas do Vale do Silício. Mas, apenas agora, depois de uma série de outros escândalos, é que estamos próximos de aprovar sistemas regulatórios que incidam sobre as grandes plataformas, ainda que não saibamos quão efetivos tais sistemas regulatórios vão se provar.

O que é assimetria informacional e qual sua relação com a IA?

De maneira simples, assimetria ou dissimetria informacional é um modo de se referir às desigualdades que existem entre os usuários de internet (e dos sistemas de IA) e as grandes plataformas. Nós sabemos muito pouco sobre o modo como funcionam os sistemas e algoritmos que, por exemplo, fazem a curadoria daquilo que vemos em nossas redes sociais. Em contrapartida, as grandes plataformas têm dados cada vez mais variados e massivos sobre cada um de nós, usuários. As plataformas não são transparentes, são caixas pretas que não se revelam para os usuários e, em alguns casos, também para os seus desenvolvedores.

Desse modo, as plataformas têm o poder de informar nossa vida mental, nossos afetos, nossos desejos, enquanto que nós, como usuários, temos pouca capacidade de ação sobre os princípios de funcionamento e o modelo de negócio das plataformas. Inclusive os sistemas de IA que não estão imediatamente ligados às redes sociais.

Por exemplo, como IAs aplicadas em processos de recrutamento e seleção para vagas de emprego funcionam?

Qual a importância de definir limites legais para estas ferramentas?

A regulação é importante, de um lado, para as empresas, para que elas tenham segurança jurídica que garanta o desenvolvimento e a implementação de seus produtos, ou seja, é importante que esteja claro o que pode ou não ser feito de tal modo que os investimentos num determinado produto não sejam desperdiçados.

Já para os usuários a regulação garante um patamar mínimo de proteção a direitos, inclusive para restituição de danos ocasionados por avaliações feitas por sistemas de IA, onde o usuário pode colocar em questão uma decisão tomada pela IA e pedir explicações sobre as razões pelas quais uma decisão foi tomada, seja por um órgão público ou por uma empresa privada.

A regulação é importante para estabelecer garantias e responsabilidades mínimas para desenvolvedores e usuários, ela é constitutiva do mercado, não se opõe a ele como normalmente se diz.

De todo modo, minha recomendação é de cautela e ceticismo em relação à capacidade do direito de mitigar os efeitos negativos do desenvolvimento tecnológico. O direito é um meio de estabilização da tecnologia, ele estabiliza a linguagem, estabelece procedimentos, define limites. E a invenção tecnológica é, por definição, um meio de desestabilização, de criação de novidade, e quando algo é realmente novo foge ao arcabouço jurídico e de valores morais. É um jogo de gato e rato em que o direito está sempre correndo atrás do desenvolvimento tecnológico.

Como as tecnologias de IA afetam o mundo do trabalho? Como podemos nos preparar para essas mudanças?

Os sistemas de IA alteram o modo como trabalhamos de muitas maneiras. O impacto mais temido é o de que postos de trabalho serão eliminados e consequentemente vamos perder emprego e renda. A meu ver, esse é um dilema inerente ao capitalismo e se coloca para além dos sistemas de IA. Na medida em que as forças produtivas se desenvolvem precisamos de cada vez menos trabalho vivo, vimos isso acontecer ao longo de toda a história da industrialização.

O que me parece mais importante em relação ao modo como os sistemas de IA afetam o mundo do trabalho diz respeito aos processos de precarização do trabalho em diversas frentes, especialmente no setor de serviços, que é o que mais emprega hoje. Esse processo tem sido definido por várias pesquisadoras e pesquisadores como “uberização”. A baixa remuneração, a falta de vínculo empregatício, jornadas extenuantes, instabilidade, incerteza, assimetria informacional entre as plataformas e seus “usuários” são algumas das características dessas relações de trabalho uberizadas. Obviamente a uberização começa pelos motoristas de aplicativo, mas já atinge professores, advogados, jornalistas, e outras tantas categorias profissionais.

Individualmente, não há muito como se preparar para as mudanças no mundo do trabalho. A constante atualização dos conhecimentos profissionais tornou-se uma espécie de regra não escrita do mercado, mas isso não garante empregabilidade e tampouco evita que uma determinada função da cadeia produtiva seja uberizada. É mais apropriado agir coletivamente, por exemplo, fazendo frente às grandes plataformas por meio de cooperativas que desenvolvam e controlem o funcionamento dos sistemas de IA,  organizando a prestação de um determinado serviço, como de transporte ou de entregas, sob condições definidas pelos cooperados. Com isso, se pode exercer uma certa soberania digital sobre o próprio trabalho. Para conhecer um pouco das iniciativas que já existem nessa direção sugiro buscar por informações no “observatório do cooperativismo de plataformas”.