As discussões sobre a ética, a segurança e o impacto social da Inteligência Artificial parecem voltar aos mesmos pontos de contato culturais encontrados nas histórias de IA que alertam para os piores cenários. Seja na cobertura da imprensa ou em documentos de posição política, continuamos voltando às mesmas histórias. Precisamos contar histórias mais diversas e realistas sobre IA se quisermos entender como essas tecnologias se encaixam em nossa sociedade hoje e no futuro.
No HAL 9000 de Kubrick, o assistente calmo desliga Dave do sistema em 2001 . Dentro O Exterminador , o sistema de defesa AI SkyNet torna-se autoconsciente e inicia um holocausto nuclear para dizimar a raça humana. Dentro Ex Machina , o robô sexual de IA se torna autoconsciente e passa no novo teste de Turing, convencendo o humano a simpatizar com ela e ajudá-la a escapar.
Essas histórias proeminentes de IA colocam o homem contra a máquina, contando com um dos exemplos mais fundamentais de conflito narrativo para levar a história adiante. Não é de surpreender que as histórias que contamos tendam a essa forma – que devemos nos posicionar como protagonistas e colocar a tecnologia de IA em oposição como antagonista.
À primeira vista Relatório da minoria também se lê como a história de outro homem versus máquina, mas em uma leitura mais próxima o conflito está menos em entender ou expor a tecnologia pré-cog em si, do que em confrontar e escapar da sociedade que implementa essa tecnologia de julgamento determinista. A tecnologia é o catalisador para a ação, mas o verdadeiro conflito de Relatório da minoria situa-se entre o homem e o Estado, ou o homem versus a sociedade.
Se continuarmos a confiar nesses extremos de ficção científica, perderemos as realidades do estado atual da IA e distrairemos nossa atenção de preocupações reais e presentes.
Mas dentro da indústria de tecnologia de IA, o arco da história segue um padrão diferente. É menos um conflito entre o homem e a tecnologia e mais um conflito entre o homem e ele mesmo. Os marcos altamente divulgados e celebrados do progresso em inteligência artificial concentram-se nas maneiras pelas quais o homem (ou seja, engenheiros) construiu sistemas capazes de vencer os humanos em desafios cada vez mais complexos e sutis: de jogos de estratégia como StarCraft e Vai , a feitos de conhecimento e análise de linguagem no jogo sutil de linguagem e trocadilhos de Jeopardy. Enquanto a tecnologia compete contra jogadores experientes, esses momentos são realmente para celebrar uma conquista de engenharia que supera o homem em seu próprio jogo. Não é de admirar que a comunidade de engenharia de IA não aceite bem as discussões que começam com acenos para o Exterminador do Futuro e Relatório da minoria . A comunidade de IA está mais interessada em suas próprias narrativas de heróis que cumprem a tarefa impossível de reproduzir o comportamento inteligente.
Então, por que essas narrativas de IA são importantes? Essas histórias são a razão pela qual estamos conversando sobre a responsabilidade da IA, mas também são grosseiramente simplificadas e caem na armadilha da falácia narrativa. Acabamos usando-os como atalhos e heurísticas para orientar nossas conversas e tomadas de decisão, quando são extremos e talvez focados nos pontos errados de conflito.
A percepção pública criada por essas narrativas hollywoodianas indiscutivelmente leva a esforços como o Parceria em Inteligência Artificial para Beneficiar Pessoas e Sociedade . Uma parceria entre Facebook, Google, Amazon, IBM e Microsoft, o grupo visa abordar e superar essas associações inescapáveis. Em sua declaração de missão, eles escrevem: “Acreditamos que é importante que a operação dos sistemas de IA seja compreensível e interpretável pelas pessoas, para explicar a tecnologia”. Ao afirmar que, 'Com a inteligência artificial, estamos convocando o demônio', Elon Musk evocou a narrativa mais primordial de todas: a luta entre o bem e o mal. Mas e se estivermos errando a narrativa?
Mas se continuarmos a confiar nesses extremos de ficção científica, perca as realidades do estado atual da IA e distrair nossa atenção de preocupações reais e presentes. E também perdemos a oportunidade de fornecer ao público um enquadramento mais prático e útil para entender um futuro onde vivemos lado a lado com sistemas artificialmente inteligentes.
*
E se pudéssemos imaginar histórias alternativas sobre inteligência artificial para explorar algumas das preocupações mais urgentes e realistas que enfrentamos, em vez de desviar a discussão para cenários apocalípticos, distópicos e de pior caso? Em vez de colocar o homem contra as máquinas, podemos considerar versões da história que presumem que o homem trabalha com máquinas e, em vez disso, focar em outros elementos da narrativa para enquadrar nossa compreensão de maneiras mais úteis e produtivas.
Por exemplo, poderíamos nos concentrar no desenvolvimento de personagens para informar o design de interação com agentes de IA. Quais são suas personalidades? Pelo que eles são motivados, do que são capazes e como nos relacionamos com eles em nossas vidas diárias? Como Wolfram Alpha O criador Stephen Wolfram argumentou que uma das áreas mais importantes para o avanço da IA depende do desenvolvimento linguagem e lógica compartilhadas para se comunicar e se relacionar com esses personagens inteligentes. Além de mordomos e secretários, que papéis e personalidades esses agentes de IA poderiam assumir?
Voz e personagem podem ser desenvolvidos por meio de histórias contadas em narrativa em primeira pessoa. Como seria contar a história do ponto de vista da inteligência artificial? O processamento de IA pode ser tão complexo e multicamadas que suas saídas não são descritíveis de maneira humanamente inteligível, tanto que os engenheiros – muito menos órgãos de auditoria ou usuários comuns – não conseguem descrever seu funcionamento interno. Exercícios de escrita de narrativas em primeira pessoa da perspectiva do sistema de IA podem nos aproximar da compreensão e avaliação da lógica da máquina e do processo de pensamento, especialmente em áreas onde a responsabilidade por resultados e julgamentos é importante.
Continuaremos a enfrentar o problema da inescrutabilidade da IA, então talvez precisemos procurar formas mais experimentais de narrativa para articular essa incognoscibilidade e a novidade ontológica. Pense na narrativa não linear ou na narrativa pós-moderna e impressionista. As saídas do Deep Dream ilustram como os processos de reconhecimento de padrões de IA podem ser excessivamente sensíveis, vendo olhos ou rostos em coisas quando eles não estão lá (conhecido como 'pareidolia'), produzindo imagens estranhas e surreais que, embora visualmente sem sentido, nos dão alguma perspectiva sobre como o sistema 'vê'.
Imagem do DeepDream que começou com ruído branco. Imagem: Martin Thomas
A maioria desses esforços narrativos contribuirá pouco para se aproximar de alguma forma de transparência para sistemas de IA, mas talvez essas ferramentas narrativas possam mover a barra em outros desafios de IA, como escrutabilidade, legibilidade, inteligibilidade e interpretabilidade e, portanto, suporte mais sutil e dinâmico discussões sobre a responsabilidade da IA entre as partes interessadas e o público em geral.
Em todas as civilizações, contar histórias é um dos veículos mais importantes para expressar ética e sistemas de valores e transmiti-los. Devemos olhar para fábulas, parábolas, mitos e folclore de um conjunto mais amplo do que o que Hollywood e a ficção científica ocidental nos deram. E se pensarmos em IA através da releitura do Rei Macaco ? Ou se encontrássemos uma interface de IA de enigmas da Esfinge? Através de uma série de sessões sobre IA na Ásia, o Centro Digital da Ásia vem explorando como levar em conta contextos e preocupações locais ao abordar essas mudanças de escala global na tecnologia.
Um táxi de Seul. Imagem: Flickr/boyce.michael
Quando visitei Seul para uma das sessões do Digital Asia Hub, não pude deixar de notar todas as criaturas parecidas com leões protegendo os cantos de cada palácio e templo que visitei. O personagem até apareceu como o mascote nos táxis laranja brilhantes por toda a cidade. O leão-unicórnio é na verdade o símbolo da própria cidade de Seul. o vamos , conhecido também no folclore chinês como o xiezhi , é uma besta mítica onisciente. Tem um temperamento justo e também é um símbolo de justiça e lei. Diante de uma disputa, ele exerce seu julgamento instintivo batendo na parte errada ou culpada com seu chifre. Eu me perguntava, como poderia uma IA vamos comporte-se? Ele seria mais confiável ou confiável do que alguns dos nossos problemas existentes? ferramentas de reincidência e sentença algorítmica ? Esses sistemas de IA são deuses inquestionáveis e impenetráveis? Ou ferramentas da nossa sociedade?
Talvez um leão-unicórnio de IA seja um esforço da imaginação, mas precisamos ser mais criativos com as maneiras como enquadramos a conversa sobre as preocupações sociais com a IA. As histórias que contamos sobre tecnologia direcionam nossa atenção e determinam nosso futuro.