Leituras sobre superinteligência
Entre o que a IA faz
e o que ainda
é hipótese.
Conceitos, evidências e perguntas abertas. Uma leitura por vez, com atenção ao significado de cada afirmação.
Começar pelos conceitos ↗
Três termos, perguntas diferentes
Antes de discutir o futuro,
vale distinguir as palavras.
Usar os mesmos termos com sentidos diferentes torna o debate impreciso. Explore estas definições de trabalho e aprofunde suas limitações na leitura completa.
Ler com mais contexto ↗Capacidades observadas
Sistemas que executam tarefas.
Modelos podem gerar textos, imagens, código e outras respostas. O desempenho precisa ser descrito junto das tarefas, das condições do teste e dos tipos de falha.
Uma demonstração bem-sucedida não comprova competência irrestrita.Definição em debate
Uma ideia de amplitude.
O termo costuma apontar para competência ampla e transferível entre contextos. Não existe um único critério universalmente aceito para decidir quando esse patamar foi alcançado.
Uma definição operacional precisa dizer o que será avaliado.Hipótese sobre capacidades
Um patamar além do humano.
A discussão considera sistemas capazes de superar capacidades humanas em uma gama ampla de atividades. O conceito descreve uma possibilidade; não é um rótulo automático para os modelos atuais.
Uma possibilidade conceitual não determina uma data nem comprova sua realização.Biblioteca de conceitos
Perguntas que merecem
uma resposta mais cuidadosa.
Leituras independentes, conectadas pelas fontes e pelos limites de cada ideia.
9 leituras disponíveis
Inteligência artificial, geral e super: o que muda entre os termos
Três expressões próximas, três perguntas diferentes sobre capacidade, abrangência e comparação com pessoas.
Aprender uma tarefa e transferir o que foi aprendido
A diferença entre bom desempenho em situações conhecidas e adaptação diante de um problema novo.
O que uma nota de benchmark deixa fora do quadro
Pontuações ajudam a comparar sistemas, desde que o teste, a métrica e suas condições acompanhem o número.
Capacidade e autonomia são perguntas diferentes
O que um sistema consegue produzir não é a mesma coisa que aquilo que ele pode executar sem intervenção.
Responder bem, seguir uma intenção e agir com confiabilidade
Por que alinhamento e confiabilidade precisam de critérios explícitos, mesmo quando a resposta parece adequada.
Veracidade e contexto: duas formas de testar uma resposta
TruthfulQA e Lost in the Middle ajudam a distinguir veracidade das respostas e uso efetivo das informações no contexto.
Futuros possíveis sem transformar hipótese em calendário
Uma maneira de discutir superinteligência pelas condições necessárias, pelos caminhos propostos e pelas perguntas ainda abertas.
Quando uma curva parece um salto
O debate sobre capacidades emergentes mostra por que observar um resultado e explicar sua origem são etapas distintas.
Como ler uma pesquisa sobre inteligência artificial
Um percurso de leitura para localizar a pergunta, entender a avaliação e reconhecer o alcance das conclusões.
Nenhuma leitura encontrada neste recorte.
Método de leitura
Uma boa pergunta inclui
o que poderia mudar a resposta.
O que foi medido? Em que condições? A conclusão está no estudo ou foi acrescentada ao comentá-lo? As referências permitem voltar à origem da afirmação.
Como ler uma pesquisa ↗