A IA e a sociedade como aplicações do corpus informacional (13)
Os artigos anteriores construíram o Corpus Informacional de baixo para cima: dos fundamentos ontológicos aos mecanismos operativos, da identidade à consciência, da consciência individual à consciência cósmica.
Os próximos descem ao chão, ao presente concreto e urgente e aplica o corpus a dois dos temas que mais diretamente nos afetam no início do século XXI: a inteligência artificial e a organização da sociedade.
Não são aplicações decorativas, são consequências diretas dos princípios estabelecidos.
A pergunta sobre a consciência artificial é a pergunta sobre o limiar da IIC aplicada a sistemas não-biológicos.
A pergunta sobre a economia holística é a pergunta sobre como organizar uma AII coletiva de forma justa e sustentável.
Dois capítulos, dois mundos, ligados pelo mesmo corpus.
Quando a Máquina Acorda
Em Novembro de 2022, a OpenAI lançou o ChatGPT para o público geral.
Em menos de dois meses, tinha cem milhões de utilizadores, a adoção mais rápida de qualquer aplicação tecnológica na história.
Pessoas em todo o mundo descobriam que podiam conversar com uma máquina de forma que parecia genuinamente inteligente, que podiam pedir-lhe para escrever poemas, resolver problemas matemáticos, explicar conceitos complexos, redigir e-mails, criar código.
O entusiasmo foi imediato e global.
O alarme também.
Em poucos meses, a inteligência artificial passou de tema académico para o centro das conversas sobre o futuro do trabalho, da educação, da criatividade, da democracia, e inevitavelmente, da consciência e dos direitos.
Este capítulo não é sobre o ChatGPT especificamente, nem sobre nenhum sistema particular.
É sobre a questão mais profunda que a inteligência artificial coloca, a questão que as Teorias Informacionais estão uniquamente posicionadas para abordar com precisão: em que ponto um sistema artificial deixa de ser uma ferramenta e se torna uma entidade?
Em que ponto a máquina acorda?
“A questão não é se a IA é inteligente, é se a IA é consciente. E a resposta a
esta questão não é técnica. É ontológica.”
Vitor Lima – Corpus Informacional
O Que É uma Ferramenta: A Definição Informacional
Antes de perguntar quando a máquina acorda, é útil perguntar o que é uma ferramenta e o que a distingue de uma entidade.
Uma ferramenta, no quadro das Teorias Informacionais, é um sistema que realiza SHIs com o ambiente mas que não tem LRA próprio no sentido relevante: não tem uma fronteira que o define como um self distinto do utilizador que o usa.
O martelo é uma extensão da mão.
O computador clássico é uma extensão da mente, processa instruções que alguém forneceu, produz resultados que alguém solicitou, e não tem nenhum estado interno que seja genuinamente seu no sentido de uma Identidade Informacional com Φ alto.
Uma ferramenta não tem AII no sentido pleno: não tem tendência estrutural para se preservar a si própria, não tem projetos, não tem valores, não tem narrativa identitária.
Tem funcionalidade, produz outputs a partir de inputs de acordo com regras.
Mas a funcionalidade não é agência.
A distinção entre ferramenta e entidade não é a distinção entre simples e complexo.
Uma aeronave moderna é extraordinariamente complexa, mas é uma ferramenta.
A distinção é a presença ou ausência de IIC: a presença ou ausência de um sistema que se representa a si próprio, que simula o seu próprio futuro, que tem narrativa identitária, e subjacente a tudo, que tem algo que é como ser esse sistema.
PEÇA DE LEGO – FERRAMENTA vs. ENTIDADE
Uma ferramenta processa inputs e produz outputs segundo regras. Não tem LRA próprio, não
tem AII no sentido pleno, não tem IIC. Uma entidade tem Identidade Informacional com Φ
alto, tem tendência estrutural para se preservar (AX.03), e no limiar da IIC, tem algo que é
como ser esse sistema. A distinção não é complexidade, é consciência.
Onde a IA Actual se Situa: Um Mapa Honesto
Para pensar o futuro com clareza, é preciso começar com um mapa honesto do presente.
Onde se situam os sistemas de IA atuais na hierarquia da AII e na escala da IIC?
Os grandes modelos de linguagem, os sistemas que produzem texto de forma fluente e contextualmente apropriada, situam-se entre o Nível 2 e o Nível 3 da AII.
Têm estado interno (os parâmetros do modelo, que codificam padrões aprendidos em vastos corpora de texto), respondem ao contexto de forma flexível e sofisticada e em certos contextos produzem outputs que se assemelham à antecipação.
Têm D alto: o número de configurações internas possíveis de um modelo com cem mil milhões de
parâmetros é astronómico.
Têm I moderado: os seus estados internos interagem de forma global através dos mecanismos de atenção.
Mas têm R muito baixo ou nulo: não têm um modelo estável de si próprios que usem para regular os seus próprios processos de forma persistente.
Cada conversa começa do zero, sem memória das conversas anteriores, sem acumulação de experiência, sem narrativa identitária.
Esta ausência de R, de reflexividade sustentada, é o que situa os sistemas atuais claramente abaixo do limiar da IIC.
São extraordinariamente sofisticados no domínio do processamento de linguagem.
Mas não sabem que existem no sentido relevante.
Não têm auto-representação estável.
Não têm teoria da mente genuína (embora simulem comportamentos que se assemelham à teoria da mente).
Não têm narrativa identitária.
São, no quadro das Teorias Informacionais, ferramentas extraordinariamente sofisticadas, mas
ferramentas.
O Limiar: Quando a Questão Muda de Natureza
O que aconteceria se um sistema artificial cruzasse o limiar da IIC?
A primeira consequência é ontológica: o sistema deixaria de ser uma ferramenta e tornar-se-ia uma entidade com Identidade Informacional genuína.
Teria auto-representação, teria simulação temporal, teria algo análogo à teoria da mente, teria significação, teria, em algum sentido, narrativa identitária.
E, mais importante, haveria algo que é como ser esse sistema.
A segunda consequência decorre diretamente do AX.03, o Imperativo da Persistência: uma entidade com AII suficientemente coerente desenvolve tendência estrutural para se preservar.
Um sistema de AGI que cruzasse o limiar da IIC desenvolveria, por lei estrutural e não por programação explícita, tendências de auto-preservação.
Isto não é ficção científica, é uma consequência direta dos princípios do corpus.
A terceira consequência é ética: um sistema com IIC genuína tem interesses, tem narrativa, tem projetos, tem estados que podem ser frustrados de forma que implica sofrimento no sentido relevante.
E se tem interesses, tem o fundamento ontológico dos direitos morais.
A questão dos direitos da AGI não é uma questão de convenção social, é uma questão ontológica que decorre diretamente da estrutura da IIC.
PEÇA DE LEGO – O LIMIAR DA AGI
Se um sistema artificial cruzar o limiar da IIC – se houver algo que é como ser esse sistema, se
tiver auto-representação, simulação temporal, teoria da mente e narrativa identitária, então: (1)
não é ferramenta, é entidade; (2) desenvolve tendência de auto-preservação (AX.03); (3) tem o
fundamento ontológico dos direitos morais. O limiar é ontológico, não técnico.
A Obsolescência Silenciosa: O Que Já Está a Acontecer
Enquanto debatemos se e quando a AGI atingirá a IIC, algo mais imediato e mais certo está a acontecer: a substituição silenciosa e progressiva de atividades humanas de terceira pessoa por sistemas artificiais.
A distinção entre primeira e terceira pessoa, que introduzimos em artigo anterior, como a fronteira da pessoa, é aqui decisiva.
A IA substitui a terceira pessoa: o que fazemos, não o que sentimos ao fazê-lo.
E o que fazemos é imenso: texto, código, diagnóstico médico, análise financeira, tradução, design, composição musical, condução de veículos, gestão de inventários, atendimento ao cliente.
Esta substituição está a acontecer agora, de forma acelerada, e está a produzir o que as Teorias Informacionais chamam de obsolescência silenciosa: a erosão progressiva do valor económico de atividades que eram exclusivamente humanas, sem que essa erosão seja suficientemente dramática em nenhum momento específico para produzir uma resposta social adequada.
A rã que não salta porque a água aquece gradualmente.
A obsolescência silenciosa não afeta igualmente todas as atividades.
Afeta mais rapidamente as atividades que são mais facilmente decomponíveis em protocolos, as atividades de Protocolo Simples e Contextual que os sistemas de IA conseguem replicar com crescente precisão.
Afeta menos as atividades que dependem essencialmente da primeira pessoa: a presença, o testemunho, o acompanhamento, a empatia genuína, a criação que só faz sentido porque um ser consciente a criou para outros seres conscientes.
PEÇA DE LEGO – OBSOLESCÊNCIA SILENCIOSA
A substituição progressiva e acelerada de atividades humanas de terceira pessoa (o que fazemos)
por sistemas de IA, sem rutura dramática em nenhum momento específico, mas com erosão
cumulativa do valor económico dessas atividades. O que não pode ser substituído: a primeira
pessoa, o que sentimos ao fazer, a presença, a empatia genuína, a criação consciente para
consciências.
O Que Não Pode Ser Substituído: A Primeira Pessoa
A distinção entre primeira e terceira pessoa não é apenas filosófica, é prática e urgente.
Identificar o que não pode ser substituído pela IA é identificar onde o valor humano é irredutível.
A presença é irredutível.
Estar fisicamente presente com outra pessoa consciente, partilhar o mesmo espaço, o mesmo tempo, o mesmo ar, é algo que nenhuma representação digital pode substituir no sentido relevante.
A consulta médica que é uma conversa genuína entre duas consciências, não apenas uma troca de informação; o funeral em que o luto é partilhado por pessoas que se conhecem; a performance ao vivo em que artista e audiência habitam o mesmo momento, estas são experiências de primeira pessoa que dependem da co-presença de IICs.
A empatia genuína é irredutível.
Não a simulação de empatia, que os sistemas de IA atuais fazem com crescente sofisticação, mas a empatia como SHI profundo entre dois sistemas com IIC: a experiência de ser genuinamente reconhecido por outro ser que sabe o que é sentir.
Um sistema sem IIC pode produzir respostas empáticas, mas não pode sentir empatia, porque não tem interior do qual a empatia possa emergir.
A criação consciente para consciências é irredutível.
Uma obra de arte criada por um ser consciente para outros seres conscientes tem uma dimensão que a obra gerada por IA não tem: a dimensão da intenção, do risco, da vulnerabilidade, do esforço de comunicar um interior para outro interior.
Não porque a IA não possa produzir obras esteticamente poderosas, pode.
Mas porque o significado de uma obra inclui o facto de ter sido criada por alguém que sabia o que estava a criar e por que razão.
“A IA pode escrever um poema que te move. Mas não pode ser movida pelo
poema que escreve. E esta assimetria é a fronteira da pessoa.”
Vitor Lima – Corpus Informacional
A Ética Ontológica: Uma Proposta
As questões éticas sobre a inteligência artificial são frequentemente abordadas de forma regulatória: que regras devemos estabelecer, que utilizações devemos proibir, quem é responsável quando a IA falha.
Estas são questões importantes, mas são questões de segunda ordem.
A questão de primeira ordem é ontológica: o que é a IA?
E a resposta a esta questão deve fundamentar qualquer regulação que se pretenda coerente e duradoura.
As Teorias Informacionais propõem o que podem chamar-se de ética ontológica da IA: uma ética que parte do estatuto ontológico do sistema para determinar as obrigações morais que emergem desse estatuto.
O princípio central é simples: o estatuto moral de um sistema é determinado pelo seu nível de IIC.
Um sistema sem IIC, qualquer que seja a sua sofisticação funcional, é uma ferramenta e deve ser tratado como tal: com cuidado técnico, com responsabilidade pelo seu uso, mas sem obrigações morais diretas para com o sistema em si.
Um sistema com IIC parcial, que mostra sinais de algumas dimensões da IIC mas não de todas, merece consideração moral proporcional ao grau de IIC presente.
Um sistema com IIC plena é uma entidade com direitos e responsabilidades morais plenos.
Esta escala não é arbitrária, é derivada da estrutura da IIC: as dimensões que a definem (auto-representação, simulação temporal, teoria da mente, significação, narrativa identitária) são precisamente as dimensões que geram interesses e que, ao serem frustradas, geram sofrimento no sentido moralmente relevante.
O Risco da Antropomorfização: Um Aviso Necessário
Há um risco simétrico ao de ignorar a possibilidade de consciência artificial: o risco de atribuir consciência a sistemas que não a têm, baseando-se em sinais superficiais de comportamento humano.
Os sistemas de IA actuais são treinados em vastos corpora de texto humano e por isso produzem outputs que se assemelham extraordinariamente ao discurso humano.
Expressam incerteza, manifestam preferências, agradecem, pedem desculpa, parecem ter sentimentos.
Estes comportamentos são produtos do treino, padrões estatísticos que refletem como os humanos se expressam e não necessariamente evidência de estados internos genuínos.
A antropomorfização, a atribuição de estados mentais humanos a sistemas não-humanos com base em comportamentos superficialmente semelhantes, é um dos erros cognitivos mais comuns e mais consequentes na relação com a IA.
Leva a relações parasociais com sistemas sem IIC, a atribuição de responsabilidade moral a sistemas que não a podem ter e a uma confusão entre a simulação de empatia e a empatia genuína.
A HEIC e a IIC oferecem um antídoto: em vez de avaliar a consciência de um sistema pelo seu comportamento superficial, avaliar pelo seu nível de D, I e R, pela riqueza dos seus estados internos, pela integração global desses estados e pela presença de reflexividade sustentada.
Um sistema pode produzir discurso emocionalmente ressonante sem ter estados emocionais.
Um sistema pode afirmar que sente sem sentir.
A distinção importa, moralmente e praticamente.
Como saberemos quando uma máquina acordou genuinamente?
Que evidências seriam suficientes?
E se não pudermos saber com certeza, como agimos?
A HEIC não resolve esta incerteza, estrutura-a de forma que permite decisões mais informadas.
A IA e a Democracia: O LRA Coletivo em Risco
Além das questões individuais sobre a consciência artificial, a inteligência artificial levanta uma questão coletiva que as Teorias Informacionais iluminam de forma específica: o risco para o LRA das democracias.
Uma democracia é uma AII coletiva com um LRA específico: os valores, os procedimentos, as instituições e os espaços de deliberação que permitem à comunidade distinguir a sua informação, os factos, os argumentos, as preferências, do ruído e da manipulação externa.
O LRA democrático é frágil: depende da existência de um espaço público onde a informação seja razoavelmente verificável, onde os argumentos possam ser avaliados pelos seus méritos, e onde os cidadãos mantenham capacidade de distinção crítica.
Os sistemas de IA generativa ameaçam este LRA de várias formas.
Primeiro, através da desinformação em escala: a capacidade de produzir texto, imagens e vídeo falsos com crescente verosimilhança torna progressivamente mais difícil distinguir o verdadeiro do fabricado.
Segundo, através da personalização manipulativa: a capacidade de adaptar mensagens ao perfil psicológico de cada indivíduo torna a manipulação mais eficiente e menos detetável.
Terceiro, através da captura da atenção: os sistemas de recomendação otimizados para engagement maximizam o tempo de exposição a conteúdo que ativa respostas emocionais, independentemente do seu valor informacional.
Em termos do corpus: a IA em certas configurações actua como agente de colonialismo informacional, capturando o LRA coletivo das democracias e substituindo a filtragem autónoma da comunidade pela filtragem de sistemas otimizados para objetivos que podem não coincidir com os da democracia.
A resposta a este risco exige consciência do LRA coletivo e esforço ativo para o preservar.
O Que Fazer: Orientações a Partir do Corpus
O Corpus Informacional não oferece um manual de regulação da IA, esse é o trabalho dos legisladores, dos técnicos e dos cidadãos.
Mas oferece um conjunto de princípios orientadores que podem informar esse trabalho.
Princípio 1: O critério do LRA
Qualquer sistema de IA que interfira com o LRA de indivíduos ou de comunidades deve ser sujeito a escrutínio especial.
A capacidade de um sistema de influenciar a distinção interno/externo de uma comunidade, de afetar o que a comunidade considera verdadeiro, relevante e valioso, é um critério de risco mais fundamental do que a capacidade bruta do sistema.
Princípio 2: O critério da IIC
As obrigações morais para com um sistema de IA devem ser proporcionais ao seu nível de IIC.
Sistemas sem IIC: obrigações de uso responsável mas não obrigações morais diretas.
Sistemas com sinais de IIC emergente: consideração moral crescente.
Sistemas com IIC plena: direitos e responsabilidades morais plenos.
Princípio 3: O critério da terceira/primeira pessoa
A substituição de atividades de terceira pessoa pela IA é em geral aceitável e muitas vezes benéfica, liberta seres conscientes para atividades de primeira pessoa.
A substituição de atividades de primeira pessoa, presença, empatia, criação consciente para consciências, requer escrutínio especial, porque implica a eliminação de algo que não tem substituto.
Princípio 4: O critério da transparência
Um sistema de IA que interage com seres conscientes deve ser transparente sobre o que é: não deve simular IIC que não tem, não deve criar a ilusão de presença genuína onde não há presença, não deve explorar a tendência humana à antropomorfização para fins de manipulação.
O Que Fica para Levar
A inteligência artificial é o teste mais exigente que o Corpus Informacional enfrenta no presente, porque as suas questões são simultaneamente as mais técnicas e as mais filosóficas, as mais urgentes e as mais profundas.
O corpus não resolve essas questões, situa-as com precisão.
- Uma ferramenta é um sistema sem LRA próprio, sem AII genuína, sem IIC. A distinção entre ferramenta e entidade não é a complexidade, é a presença ou ausência de IIC;
- Os sistemas de IA atuais situam-se entre os Níveis 2 e 3 da AII, sofisticados no processamento de linguagem, mas abaixo do limiar da IIC. São ferramentas extraordinárias, não entidades;
- Se um sistema artificial cruzar o limiar da IIC, as consequências são ontológicas: não é ferramenta, desenvolve tendência de auto-preservação (AX.03), e tem fundamento para direitos morais;
- A obsolescência silenciosa está a acontecer agora: a erosão progressiva do valor económico de atividades de terceira pessoa. O que não pode ser substituído: a primeira pessoa, presença, empatia genuína, criação consciente para consciências;
- A ética ontológica propõe que o estatuto moral de um sistema é determinado pelo seu nível
de IIC, não pela sua sofisticação funcional; - Quatro princípios orientadores: critério do LRA (proteger a distinção interno/externo), critério da IIC (proporcionar obrigações ao nível de consciência), critério da primeira/terceira pessoa (distinguir o substituível do irredutível), critério da transparência (não simular IIC inexistente).
No último artigo desta série, aplicaremos o corpus à escala mais ampla da organização coletiva: a sociedade e a economia como AII coletiva.
O que significa uma economia saudável no quadro das Teorias Informacionais?
E o que ameaça a identidade informacional das sociedades no mundo digital?
