digesta
Just signalNo noise

← Voltar ao feed

Anthropic concede à avaliadora externa METR acesso de nível de funcionário aos seus modelos

–

Resumo neutro

A Anthropic anunciou que está concedendo à organização sem fins lucrativos Model Evaluation and Threat Research (METR) acesso de nível de funcionário aos seus modelos e sistemas internos. A METR receberá terminais, espaço de escritório e acesso aos sistemas internos, além de publicar suas próprias avaliações sobre os riscos, incidentes e práticas da Anthropic — a empresa abriu mão do direito de bloquear essas publicações, mantendo apenas a capacidade de solicitar redações. O CEO Dario Amodei fez da inclusão de avaliadores externos uma de suas principais propostas para abordar preocupações de segurança. A empresa também está em estágios iniciais de discussões com outras organizações, incluindo a Hugging Face, além de a ITmedia reportar que a OpenAI está preparando um programa semelhante de avaliação externa. Elon Musk disse que a SpaceX "provavelmente fará o mesmo". Preocupações de segurança sobre o chatbot Claude foram levantadas repetidamente nos últimos tempos.

Como noticiaram

Veículos: 9. Países: 5. Fatos do núcleo comum: 1.

Cronologia de publicação

  1. · Channel NewsAsia (perfil do veículo)

    Anthropic grants AI evaluator METR employee-level access to its models

  2. · Channel NewsAsia (perfil do veículo)

    Anthropic grants outside evaluator METR employee-level access in AI safety push

  3. · Business Insider (perfil do veículo)

    Anthropic just opened its doors to outside safety watchdogs. Here's how it will work.. Anthropic is opening its doors to independent AI safety evaluators from METR, the first time a frontier AI company has done so.

  4. · Financial Times (perfil do veículo)

    Anthropic grants non-profit METR ‘employee-like’ access to monitor AI risks. CEO Dario Amodei has made bringing in external evaluators one of his main proposals to address safety concerns

  5. · TechCrunch (perfil do veículo)

    Anthropic is letting METR researchers look under the hood with employee-level access. METR will publish its own assessments of Anthropic’s risks, incidents, and practices, and the frontier AI model maker has given up th…

  6. · CNBC (perfil do veículo)

    Anthropic taps nonprofits METR and SecureBio to help assess risks and safety practices. The company is also engaged in early-stage discussions with other organizations, including Hugging Face.

  7. · ITmedia (perfil do veículo)

    Anthropic、METRの評価チームを社内に常駐させ“従業員並み”のアクセス付与 公表に拒否権なし. Anthropicは、AI評価団体METRに従業員並みのアクセス権を与える常駐評価を開始した。端末やオフィスを提供して社内システムへのアクセスを認め、リスクや障害の独自公表を許可する。公表拒否はできず、伏せ字要請のみ可能。OpenAIも同様の外部評価機関受け入れを準備している。

  8. · Handelsblatt (perfil do veículo)

    Künstliche Intelligenz: Sicherheitsbedenken: Anthropic lässt externe Prüfer zu. Der KI-Entwickler hat am Donnerstag mitgeteilt, dem gemeinnützigen Unternehmen „Model Evaluation and Threat Research“ (METR) Zugang auf Mit…

  9. · The Decoder (perfil do veículo)

    Anthropic gives METR inside access to audit its AI models and safety practices. Anthropic has given a team from the nonprofit METR inside access to review its AI models and safety practices, the company announced. The a…

  10. · The Independent (perfil do veículo)

    Anthropic will let outsiders see inside its company amid panic about rogue AI systems. Elon Musk says that SpaceX will ‘probably do the same’ as calls grow for better transparency

Núcleo factual

  • Anthropic gave a team from the nonprofit METR inside access to audit its AI models and safety practices.

Metodologia completa →

Outros temas do dia