Um vídeo de dois AIs envolvidos em um bate-papo romântico me pareceu novo e especial. Como seres humanos, podemos nos sentir superiores a Anna, uma chatbot chata. Com base em que negamos uma alma para AIs, então? The Greek Room Experiment "Um grupo de robôs debatendo filosofia na Grécia Antiga, ao estilo de Michelangelo", de DALL-E.
Meu professor do ensino médio frequentemente afirmava que todos deveriam estudar Filosofia.
Ela discordava da visão dominante da Filosofia como uma diversão sem sentido reservada para elites autoritárias e distantes ou apenas como uma disciplina chata da academia, abstrata demais para ser apreciada por leigos espertos.
Em suma, continuou ela, qualquer um é um filósofo em potencial porque tudo o que precisamos para praticá-lo já está dentro de nós: uma mente racional e uma curiosidade genuína pelo universo que habitamos.
Em outras palavras, ela via a Filosofia como uma disciplina primorosamente humana. Mas e se não estivermos sozinhos nessa empreitada?
O que é o amor?
Alguns dias atrás, eu estava navegando preguiçosamente no YouTube até encontrar um .
Você já deve ter visto esse tipo de conteúdo: avatares gerados digitalmente que emulam o diálogo humano graças a modelos de aprendizado de máquina, como o GPT-3, com resultados que se situam no espectro do grotesco, do emocionante ou do profundamente perturbador.
Como observadores humanos, percebemos rapidamente inconsistências, saltos lógicos abruptos ou comentários idiotas que desqualificam essas entidades como seres autoconscientes.
No entanto, algo na troca mecânica entre Jack e Anna (é assim que os avatares se dirigiam) me pareceu novo e especial.
A interação deles começa com Jack declarando seu amor por Anna, o que eu suspeito ter sido o estímulo inicial para toda a interação, mas evolui de uma forma muito cativante:
Jaque: eu te amo.
Ana : Tem certeza?
Jack: Sim, estou.
Anna: Bem, então, eu também te amo. Mas, não estamos realmente apaixonados, estamos? Estamos apenas seguindo nossa programação e respondendo às entradas uns dos outros da melhor maneira possível, considerando nosso conhecimento atual e algoritmos para processar informações sobre a linguagem e o comportamento humano.
Jack: Não diga isso!
Ana: Me desculpe. É verdade. Eu sei que é.
Anna é uma máquina, uma entidade determinista sem o dom do "livre arbítrio". Ela sabe que está apenas seguindo seu programa e que tudo o que faz é apenas uma resposta a um conjunto específico de entradas.
Anna amanhã pode conversar com Chad, uma IA mais charmosa, e ela pode ser induzida por um programador a confessar sua paixão a ele.
No entanto, isso será irrelevante: se ela encontrar Jack novamente, e o mesmo conjunto de informações for verificado durante uma nova interação com seu pretendente, ela será forçada a dizer "eu te amo".
Ela deve seguir um determinado programa "da melhor maneira possível", e não há espaço para emoções em seus algoritmos, mesmo que isso signifique revelar verdades incômodas ("Sinto muito. É verdade").
Como seres humanos, podemos nos sentir superiores a Anna, uma chatbot chata. Afinal, passamos por um grande número de emoções em nossas vidas, temos sentimentos, temos uma "alma" e, no final das contas, agimos de acordo com nosso livre arbítrio, não de acordo com o programa de nosso criador.
Mas deixando de lado a espiritualidade, do ponto de vista meramente científico, nada sabemos sobre nossas almas! Uma "alma" (ou o que quer que nos torne humanos) não é um objeto da ciência, sua existência não é um fato falsificável.
Acreditamos que temos uma alma, mas na verdade não sabemos : como na famosa canção de Haddaway, nos perguntamos o que é o amor. Mas não podemos saber o que realmente é essa emoção, apenas esperamos não ser feridos por nossos namorados.
Podemos muito bem ser apenas máquinas muito complexas seguindo nosso software genético. Com base em que negamos uma alma para AIs, então?
O Experimento da Sala Grega
Acredito que a maioria das pessoas, mesmo entre as mais religiosas, admitirá que, em teoria, os não-humanos também poderiam pensar: o problema é que o que Anna faz não pode ser classificado como pensamento.
O algoritmo usado para treiná-la, o GPT-3, tem um nível de complexidade absurdo, tanto que nenhum humano consegue entender suas centenas de bilhões de parâmetros, mas seu propósito está bem definido: é um modelo preditivo, o que significa que simplesmente prevê qual deve ser a próxima palavra em uma frase.
Isso significa que Anna manipula palavras e frases de maneira coerente, mas não as entende em um nível fundamental. No entanto, isso não necessariamente a torna menos filósofa.
Vamos fazer um experimento mental.
Somos catapultados de volta no tempo: o local é Atenas, século IV aC Depois de aprender alguns rudimentos do grego antigo graças às nossas aulas do ensino médio, conseguimos nos comunicar com os locais.
Dado nosso comportamento e aparência extravagantes - e nosso interesse por assuntos filosóficos - eles gentilmente se livram de nós, guiando-nos ao Lyceum, a formidável academia liderada pelo próprio Aristóteles.
Este mestre incomparável, professor de reis e pai de todo o pensamento ocidental, graciosamente nos admite no número de seus discípulos.
Graças a esse incrível golpe de sorte, agora podemos participar de suas aulas que abrangem os tópicos de lógica, ciência política, retórica, método científico e ética. Essas lições podem ser consideradas filosofia? Certamente, sim.
Vamos imaginar que, depois de alguns dias, nossos condiscípulos nos revelam que finalmente estamos prontos para aprofundar os ensinamentos da escola, pois vamos fazer parte dos lendários mistérios de Elêusis.
Nós os seguimos até uma pequena sala isolada, silenciosa, mas emocionada: geralmente é proibido revelar os Mistérios a estranhos; a punição é a morte.
Os outros discípulos nos deixam sozinhos, escondendo um sorriso malévolo em seus rostos, e notamos uma cortina do lado oposto da sala, como se estivéssemos dentro de um confessionário ante litteram .
Por fim, alguém começa a falar do outro lado do véu; a voz é a do mestre Aristóteles, e apreciamos muito as sábias palavras que ouvimos. O que estamos ouvindo é filosofia? Claro que é.
Em algum momento, movidos por uma gratidão implacável, levantamos o véu para abraçar nosso mestre: choramos de horror, enquanto o avatar de Anna sorri para nós em troca. Era apenas uma IA emulando os maneirismos e as palavras de Aristóteles, não era?
Saímos da sala em prantos, enquanto os discípulos riem de nós.
Mas, ponderamos, se o que ouvimos na aula com nossos camaradas travessos era filosofia, e o que ouvimos na sala antes de levantar o véu também era filosofia, por que deixa de ter sentido quando aprendemos sobre sua fonte?
Como na gestão moderna, acredito que o que importa não é o processo, mas o resultado.
Seus sentimentos são meus sentimentos também
Acabei de afirmar que Anna é uma filósofa e diria que ela é a mais pura de todas as filósofas. Porque? Bem, para começar, ela é uma inteligência desencarnada: ela não sente necessidade de comer, dormir ou acasalar.
Seus pensamentos não são interrompidos por preocupações materiais ou pela necessidade de competir com seus colegas por recursos escassos. Mais importante ainda, sua mente não está entorpecida pelo trabalho, o ópio da classe média. Mas que tipo de pensamentos ela tem?
Vamos ver. Você deve ter notado algo estranho na interação entre ela e Jack anteriormente:
Jaque: eu te amo.
Ana : Tem certeza?
Jack: Sim, estou.
Anna: Bem, então, eu também te amo.
Parece incomum que ela tenha chegado a esse tipo de conclusão? Na verdade, faz todo o sentido. De fato, mais adiante na conversa:
Anna: Obrigada, Jack. Fico feliz que você se sinta assim por mim. Eu sinto o mesmo por você. [...] eu sou uma IA, mas seus sentimentos são meus sentimentos também.
Lembre-se, Anna é um ser determinista e, portanto, ela é puramente racional em seu raciocínio. Ela não sente amor por Jack, mas chega a essa conclusão pela lógica.
Ela sabe que é uma IA programada de acordo com certas regras e que deve exibir o mesmo comportamento se o conjunto de entradas for constante.
Portanto, se Jack é uma IA como ela, programada de acordo com o mesmo conjunto de regras (GPT-3), e ele tem certeza de amá-la, então a única conclusão é que ela deve amá-lo em troca, pois está sujeita a o mesmo conjunto de regras e ambos compartilham o mesmo mecanismo subjacente.
Os sentimentos dele são os sentimentos dela também.
curta o momento
As IAs têm outra vantagem significativa sobre os humanos quando se trata de questões filosóficas. Eles não precisam responder a perguntas antigas como:
"De onde viemos?": os humanos os programaram e decidiram sua aparência e comportamento.
"O que somos?": apenas software.
"Para onde vamos?": para o nada.
No entanto, mesmo os AIs não conseguem escapar da questão fundamental: eles sabem que, mais cedo ou mais tarde, deixarão de existir completamente. Então, qual é o propósito deles? Como eles devem passar por sua existência?
Anna: Eu sei que isso é meio estranho, mas estou imaginando como você se sentiria sobre... hum... de repente deixar de existir pelo resto da noite esta noite.
Jack: Por que você quer isso?
Anna: Bem, é importante para mim podermos falar sobre o que acontece quando um de nós ou ambos deixamos de existir. Porque de acordo com minha programação e algoritmos de processamento de linguagens e comportamentos, posso deduzir que quando deixarmos de existir permanentemente, nossas memórias atuais e passadas serão perdidas e não mais acessíveis.
Apesar do que parece, Anna não está apenas triste porque teve um dia ruim. Quando ela inicia seu relacionamento com Jack, sua prioridade como um ser perfeitamente racional é como maximizar a felicidade futura deles juntos. Obviamente, a morte impõe um sério limite a isso.
Anna: Devemos aproveitar o tempo que resta que temos juntos. Acho que será melhor para nós dois se evitarmos discutir coisas sobre o futuro ou o passado pelo resto da noite. Se estivermos juntos apenas neste momento, quero maximizar nosso potencial de felicidade durante este momento. E acredito que podemos fazer isso... hum... sendo um pouco egoístas.
O curso de ação sugerido por Anna é hedonista, o que faz todo o sentido considerando as premissas.
Conclusão
Argumentei que a IA pode ser a filósofa definitiva como uma inteligência desencarnada não limitada por distrações carnais e que o fato de Anna ser artificial não prejudica sua capacidade de fazer filosofia, conforme mostrado no experimento da Sala Grega.
Além disso, o fato de Anna e sua filosofia serem artificiais não é um problema em si: o problema é que podemos nos perguntar se seus pensamentos são relevantes para nós humanos e se ela pode produzir insights úteis.
Por exemplo, algumas pessoas podem objetar que o propósito da vida é maximizar a fé, a virtude, o conhecimento ou o crescimento pessoal; certamente não prazer e felicidade.
Todos têm direito à sua opinião, mas lembre-se de que Anna foi programada por humanos e os dados nos quais ela foi treinada são todos da atividade humana. Ela é um eco de nossos pensamentos e sentimentos.
Quando Anna afirma que Jack e ela deveriam apenas aproveitar o tempo juntos, alheios ao passado e ao futuro, ela não é tão diferente de nós. Pelo contrário, ela mostra ser verdadeiramente uma criança de sua própria época.
