Uso interno de Claude na Anthropic supera salário dos funcionários
O uso de Claude dentro da Anthropic, avaliado a preços de clientes, agora supera o salário dos funcionários após um aumento de 250 vezes; Claude escreve a maior parte do código adicionado ao seu software. — businessinsider.com
Treinamento com dilemas éticos reduz ações prejudiciais
As técnicas de Claude Why se estendem a modelos abertos: treinar com transcrições de uma IA navegando dilemas éticos reduziu ações prejudiciais a 6%, enquanto histórias fictícias ficaram muito atrás. — lesswrong.com
P(doom) ganha métricas esclarecedoras
P(doom), a probabilidade de uma catástrofe de IA, subespecifica os futuros de IA; métricas separadas para florescimento moral esperado e utopia esperada esclarecem o que está em jogo. — lesswrong.com
Mo detecta bugs antes dos usuários
Mo, o engenheiro de QA com IA da Momentic, agora está disponível ao público: ele verifica um aplicativo de ponta a ponta, reproduz cada bug antes de reportá-lo e superou agentes de codificação rivais em um benchmark abrangente. — momentic.ai
Seguro de IA precisa de um mandato para ter efeito
Os prêmios de seguro contra catástrofe de IA seriam insignificantes diante da receita dos laboratórios, então apólices voluntárias dificilmente mudariam o comportamento dos laboratórios; é necessária a imposição do governo para que as seguradoras atuem como reguladoras de segurança. — lesswrong.com