IMPREVISIBILIDADE E IA: Uma Análise Baseada em "A Lógica do Cisne Negro"
Perigos invisíveis das IA’s
Algo imprevisível, improvável e que tem um grande impacto na sociedade, essa é a definição de um Cisne Negro de acordo com Nassim Nicholas Taleb. Eventos como 11 de setembro, a ascensão do Google, a crise financeira de 2008 nos Estados Unidos, são exemplos de Cisnes negros.
Atualmente, vê-se um enorme desenvolvimento de inteligências artificiais e junto à elas um possível cisne negro; podê-se tentar prevê-los, porém, por definição, os cisnes negros são completamente imprevisíveis e qualquer esforço tentando entender as variáveis que podem nos levar até eles seria uma perca de tempo.
Contudo, não precisamos abandonar as previsões, apenas saber que elas não representam a modelagem de um futuro certo, e sim uma suposição entre várias outras.
Você vai errar
O ser humano é um péssimo previsor, N. N. Taleb justifica essa afirmação com alguns pontos.
Ilustração da narrativa: é comum, depois de fatos relevantes na história, as pessoas encadearem os eventos passados de maneira que colaborem para o desfecho já visto, porém isso representa uma visão enviesada do passado, pois faz com que acreditemos que a história é linear, portanto o futuro também deva ser, o que nos leva para o segundo erro de predição.
Viés da Retrospectiva: Após um evento ocorrer, as pessoas tendem a creditar que ele era mais provável do que realmente era, criando assim, uma falsa ilusão que somos capazes de prever o futuro com certa precisão.
Simplificação: Podemos facilmente reduzir a importância ou simplificar demais um assunto desconsiderando algumas de suas consequências, tornando previsões totalmente incertas.
Viés de confirmação: De acordo com a experiência de cada ser humano podemos dar pesos diferentes para a relevância de cada acontecimento no desenrolar do tempo. Assim, torna-se, mais uma vez, nossa capacidade de previsão quase inútil em determinados assuntos.
Além do mais, há um exemplo que pode esclarecer a não linearidade da história e ascensão repentina de cisne negro: a vida de um peru até o dia de ação de graças
Todo dia o peru era alimentado, consequentemente se acostumou com esse estilo de vida, e seu bem-estar estava subindo, até que chegou o Dia de Ação de Graças e seu dono decidiu que já estava na hora de assar a ave.
Se o peru pudesse se basear no passado para prever o dia 1001 com certeza erraria.
Backwards view
Um exemplo de como não podemos acreditar na linearidade da história é a revolução francesa.
A Revolução Francesa, que ocorreu entre 1789 e 1799, é frequentemente citada como um exemplo de um evento complexo e multifacetado cujas causas e efeitos são simplificados ou reconfigurados para criar uma narrativa coesa. A Ilusão da Narrativa, conforme mencionado por Taleb, pode ser vista na forma como interpretamos e ensinamos sobre a Revolução Francesa. Aqui está uma análise desse fenômeno em relação ao evento:
Criação de Uma Sequência Linear: Muitas vezes, a Revolução Francesa é ensinada como uma sequência linear de eventos: crise financeira, convocação dos Estados Gerais, a formação da Assembleia Nacional, a Queda da Bastilha, e assim por diante. Embora esses eventos tenham ocorrido, a maneira como são apresentados sugere uma progressão inevitável, quando, na realidade, cada etapa foi resultado de uma miríade de fatores interligados e nem sempre diretamente relacionados entre si.
Atribuição Clara de Causa e Efeito: É comum ouvirmos que a fome, a miséria e a opressão levaram ao levante popular. Enquanto esses fatores foram cruciais, eles não foram os únicos catalisadores. A Revolução Francesa foi também o resultado de lutas de poder entre facções, ideias iluministas circulando pela Europa, e erros táticos de várias figuras-chave.
Personagens Centrais como "Heróis" ou "Vilões": A narrativa popular frequentemente coloca certas figuras, como Luis XVI ou Robespierre, em papéis simplificados de "bom" ou "mau". Na realidade, cada figura tinha suas próprias motivações, virtudes e falhas, e não pode ser facilmente categorizada.
Visão Retrospectiva: Olhando para trás, é tentador ver a Revolução Francesa como um precursor inevitável da república e da democracia na França. No entanto, no momento, o futuro era incerto. A revolução poderia ter tomado muitos caminhos diferentes, e a república democrática não era de forma alguma o resultado garantido.
A Ilusão da Narrativa nos faz querer simplificar eventos complexos em histórias compreensíveis. Enquanto isso nos ajuda a entender e lembrar desses eventos, também pode distorcer a realidade e nos fazer esquecer da verdadeira natureza caótica e imprevisível da história.
A Revolução Francesa, como muitos outros eventos significativos, é um lembrete de que a realidade raramente se encaixa em narrativas simples, ordenadas e precisas.
IA (Inteligência Artificial)
E enquanto as IA’s? A nossa incapacidade de prever seria uma desculpa para deixarmos de cuidar ou mitigar seus danos ao futuro da sociedade? Óbvio que não.
Já vimos e ouvimos consequências desastrosas para a sociedade em relação a utilização delas, como a utilização, pela Amazon, de um recurso de inteligência artificial para o recrutamento de novos funcionários, e com o passar do tempo perceberam que o algoritmo era sexista.
A máquina aprendeu a tarefa baseado nos currículos que a empresa recebeu nos 10 anos anteriores, esses currículos eram majoritariamente de pessoas do sexo masculino, e quando a IA identificava a palavra “mulher” em uma proposta para alguma vaga, ela automaticamente diminua a pontuação do candidato.
Outro exemplo ilustrativo é o treinamento realizado com vários processos judiciários americanos, onde a IA ao realizar testes de julgamentos prejudicavam pessoas negras, mostrando um vies para o racismo.
Os perigos das IA’s vão muito além:
Superinteligência Súbita
IA com Motivações Inesperadas
Manipulação em Massa
Conflitos IA versus IA:
Incorporação Inconsciente de Preconceitos
Dependência Excessiva (várias áreas cruciais à sociedade podem ser prejudicadas se houver um erro inesperado com uma IA se essas áreas forem fortemente dependentes dela)
Criação e Espalhamento de Desinformação
Os perigos são incontáveis, e somado com a incapacidade humana para previsão, a sociedade pode estar caminhando para um desastre sem precedentes, ou, quem sabe, para um “paraíso” onde poderemos ver uma sociedade menos desigual com a ajuda das Inteligências Artificiais.
Vale relatar que a IA ainda não retirou o aprendizado que teve com o ser humano através de suas escolhas, ou seja, uma máquina é muito boa para lidar com padrões, caso o ser humano tenha ensinado e ela identificado um padrão “errado”, ela simplesmente irá replicar o comportamento. Por isso se discute muito hoje sobre tais vieses explicados no texto, sobre adequação e regulamentação.
Conclusão
Portanto, percebe-se que as inteligências artificiais apresentam um potencial enorme tanto positivo quanto negativo, cabe à nós fazermos boas escolhas para que o futuro entre a humanidade e as máquinas seja próspero . No entanto, sempre a incerteza estará por perto, não conseguimos afirmar com veemência como será a posteridade, tal como a refeição de peru, não sabemos que dia acontecerá algo extraordinário nem se esse dia chegará.