# IMPREVISIBILIDADE E IA: Uma Análise Baseada em "A Lógica do Cisne Negro" --- # Perigos invisíveis das IA’s Algo imprevisível, improvável e que tem um grande impacto na sociedade, essa é a definição de um Cisne Negro de acordo com Nassim Nicholas Taleb. Eventos como 11 de setembro, a ascensão do Google, a crise financeira de 2008 nos Estados Unidos, são exemplos de Cisnes negros. Atualmente, vê-se um enorme desenvolvimento de inteligências artificiais e junto à elas um possível cisne negro; podê-se tentar prevê-los, porém, por definição, os cisnes negros são completamente imprevisíveis e qualquer esforço tentando entender as variáveis que podem nos levar até eles seria uma perca de tempo. Contudo, não precisamos abandonar as previsões, apenas saber que elas não representam a modelagem de um futuro certo, e sim uma suposição entre várias outras. --- # Você vai errar O ser humano é um péssimo previsor, N. N. Taleb justifica essa afirmação com alguns pontos. 1. **Ilustração da narrativa:** é comum, depois de fatos relevantes na história, as pessoas encadearem os eventos passados de maneira que colaborem para o desfecho já visto, porém isso representa uma visão enviesada do passado, pois faz com que acreditemos que a história é linear, portanto o futuro também deva ser, o que nos leva para o segundo erro de predição. 2. **Viés da Retrospectiva**: Após um evento ocorrer, as pessoas tendem a creditar que ele era mais provável do que realmente era, criando assim, uma falsa ilusão que somos capazes de prever o futuro com certa precisão. 3. **Simplificação**: Podemos facilmente reduzir a importância ou simplificar demais um assunto desconsiderando algumas de suas consequências, tornando previsões totalmente incertas. 4. **Viés de confirmação**: De acordo com a experiência de cada ser humano podemos dar pesos diferentes para a relevância de cada acontecimento no desenrolar do tempo. Assim, torna-se, mais uma vez, nossa capacidade de previsão quase inútil em determinados assuntos. Além do mais, há um exemplo que pode esclarecer a não linearidade da história e ascensão repentina de cisne negro: a vida de um peru até o dia de ação de graças ![](https://cdn.hashnode.com/res/hashnode/image/upload/v1696166067596/aa409de8-9e5c-4d2d-840c-e50ed83306a0.png align="center") Todo dia o peru era alimentado, consequentemente se acostumou com esse estilo de vida, e seu bem-estar estava subindo, até que chegou o Dia de Ação de Graças e seu dono decidiu que já estava na hora de assar a ave. Se o peru pudesse se basear no passado para prever o dia 1001 com certeza erraria. --- # Backwards view Um exemplo de como não podemos acreditar na linearidade da história é a revolução francesa. A Revolução Francesa, que ocorreu entre 1789 e 1799, é frequentemente citada como um exemplo de um evento complexo e multifacetado cujas causas e efeitos são simplificados ou reconfigurados para criar uma narrativa coesa. A Ilusão da Narrativa, conforme mencionado por Taleb, pode ser vista na forma como interpretamos e ensinamos sobre a Revolução Francesa. Aqui está uma análise desse fenômeno em relação ao evento: 1. **Criação de Uma Sequência Linear**: Muitas vezes, a Revolução Francesa é ensinada como uma sequência linear de eventos: crise financeira, convocação dos Estados Gerais, a formação da Assembleia Nacional, a Queda da Bastilha, e assim por diante. Embora esses eventos tenham ocorrido, a maneira como são apresentados sugere uma progressão inevitável, quando, na realidade, cada etapa foi resultado de uma miríade de fatores interligados e nem sempre diretamente relacionados entre si. 2. **Atribuição Clara de Causa e Efeito**: É comum ouvirmos que a fome, a miséria e a opressão levaram ao levante popular. Enquanto esses fatores foram cruciais, eles não foram os únicos catalisadores. A Revolução Francesa foi também o resultado de lutas de poder entre facções, ideias iluministas circulando pela Europa, e erros táticos de várias figuras-chave. 3. **Personagens Centrais como "Heróis" ou "Vilões"**: A narrativa popular frequentemente coloca certas figuras, como Luis XVI ou Robespierre, em papéis simplificados de "bom" ou "mau". Na realidade, cada figura tinha suas próprias motivações, virtudes e falhas, e não pode ser facilmente categorizada. 4. **Visão Retrospectiva**: Olhando para trás, é tentador ver a Revolução Francesa como um precursor inevitável da república e da democracia na França. No entanto, no momento, o futuro era incerto. A revolução poderia ter tomado muitos caminhos diferentes, e a república democrática não era de forma alguma o resultado garantido. A Ilusão da Narrativa nos faz querer simplificar eventos complexos em histórias compreensíveis. Enquanto isso nos ajuda a entender e lembrar desses eventos, também pode distorcer a realidade e nos fazer esquecer da verdadeira natureza caótica e imprevisível da história. A Revolução Francesa, como muitos outros eventos significativos, é um lembrete de que a realidade raramente se encaixa em narrativas simples, ordenadas e precisas. --- # IA (Inteligência Artificial) E enquanto as IA’s? A nossa incapacidade de prever seria uma desculpa para deixarmos de cuidar ou mitigar seus danos ao futuro da sociedade? Óbvio que não. Já vimos e ouvimos consequências desastrosas para a sociedade em relação a utilização delas, como a utilização, pela Amazon, de um recurso de inteligência artificial para o recrutamento de novos funcionários, e com o passar do tempo perceberam que o algoritmo era sexista. A máquina aprendeu a tarefa baseado nos currículos que a empresa recebeu nos 10 anos anteriores, esses currículos eram majoritariamente de pessoas do sexo masculino, e quando a IA identificava a palavra “mulher” em uma proposta para alguma vaga, ela automaticamente diminua a pontuação do candidato. Outro exemplo ilustrativo é o treinamento realizado com vários processos judiciários americanos, onde a IA ao realizar testes de julgamentos prejudicavam pessoas negras, mostrando um vies para o racismo. Os perigos das IA’s vão muito além: * **Superinteligência Súbita** * **IA com Motivações Inesperadas** * **Manipulação em Massa** * **Conflitos IA versus IA**: * **Incorporação Inconsciente de Preconceitos** * **Dependência Excessiva** (várias áreas cruciais à sociedade podem ser prejudicadas se houver um erro inesperado com uma IA se essas áreas forem fortemente dependentes dela) * **Criação e Espalhamento de Desinformação** Os perigos são incontáveis, e somado com a incapacidade humana para previsão, a sociedade pode estar caminhando para um desastre sem precedentes, ou, quem sabe, para um “paraíso” onde poderemos ver uma sociedade menos desigual com a ajuda das Inteligências Artificiais. Vale relatar que a IA ainda não retirou o aprendizado que teve com o ser humano através de suas escolhas, ou seja, uma máquina é muito boa para lidar com padrões, caso o ser humano tenha ensinado e ela identificado um padrão “errado”, ela simplesmente irá replicar o comportamento. Por isso se discute muito hoje sobre tais vieses explicados no texto, sobre adequação e regulamentação. --- # Conclusão Portanto, percebe-se que as inteligências artificiais apresentam um potencial enorme tanto positivo quanto negativo, cabe à nós fazermos boas escolhas para que o futuro entre a humanidade e as máquinas seja próspero . No entanto, sempre a incerteza estará por perto, não conseguimos afirmar com veemência como será a posteridade, tal como a refeição de peru, não sabemos que dia acontecerá algo extraordinário nem se esse dia chegará.