O sentido de alinhamento
Na discussão sobre IA, alinhamento envolve a relação entre o comportamento de um sistema e as intenções, objetivos e valores que deveriam orientar esse comportamento. A dificuldade começa no próprio ato de expressar o que se deseja.
Instruções incompletas, objetivos em tensão e interpretações diferentes podem tornar essa relação menos simples do que parece. Uma resposta adequada em determinado teste não encerra o problema.
Supervisionar também tem limites
A supervisão humana depende da possibilidade de perceber um erro, compreender uma ação e intervir quando necessário. Se um sistema ultrapassasse amplamente determinadas capacidades humanas, avaliar o que ele faz poderia exigir métodos diferentes dos atuais.
Pesquisas sobre supervisão de sistemas mais capazes investigam partes desse desafio. Seus resultados devem ser lidos dentro das condições em que foram obtidos, sem tratá-los como solução definitiva.
Uma questão técnica e humana
Além dos métodos de treinamento e avaliação, há escolhas sobre responsabilidade, acesso e critérios de uso. Pessoas e instituições podem discordar sobre o que constitui um objetivo aceitável.
A conversa sobre alinhamento fica mais útil quando admite essas diferenças. O tema não se resume a tornar uma máquina obediente: envolve compreender o que foi solicitado, como o resultado é avaliado e quem pode questioná-lo.
Para continuar a leitura