digesta
Just signalNo noise

← Retour au fil

Anthropic accorde à l'évaluateur externe METR un accès de niveau employé à ses modèles

–

Résumé neutre

Anthropic a annoncé qu'elle accorde à l'organisation à but non lucratif Model Evaluation and Threat Research (METR) un accès de niveau employé à ses modèles et à ses systèmes internes. METR recevra des terminaux, des espaces de bureau et un accès aux systèmes internes, et publiera ses propres évaluations des risques, incidents et pratiques d'Anthropic — l'entreprise a renoncé à son droit de bloquer ces publications, ne conservant que la possibilité de demander des caviardages. Le PDG Dario Amodei a fait de l'intégration d'évaluateurs externes l'une de ses principales propositions pour répondre aux préoccupations en matière de sécurité. L'entreprise est également en pourparlers préliminaires avec d'autres organisations, notamment Hugging Face, et ITmedia rapporte qu'OpenAI prépare un programme similaire d'évaluation externe. Elon Musk a déclaré que SpaceX « fera probablement de même ». Les préoccupations concernant la sécurité du chatbot Claude ont été soulevées à plusieurs reprises ces derniers temps.

Le cadrage

Médias : 9. Pays : 5. Faits du noyau commun : 1.

Chronologie de publication

  1. · Channel NewsAsia (fiche du média)

    Anthropic grants AI evaluator METR employee-level access to its models

  2. · Channel NewsAsia (fiche du média)

    Anthropic grants outside evaluator METR employee-level access in AI safety push

  3. · Business Insider (fiche du média)

    Anthropic just opened its doors to outside safety watchdogs. Here's how it will work.. Anthropic is opening its doors to independent AI safety evaluators from METR, the first time a frontier AI company has done so.

  4. · Financial Times (fiche du média)

    Anthropic grants non-profit METR ‘employee-like’ access to monitor AI risks. CEO Dario Amodei has made bringing in external evaluators one of his main proposals to address safety concerns

  5. · TechCrunch (fiche du média)

    Anthropic is letting METR researchers look under the hood with employee-level access. METR will publish its own assessments of Anthropic’s risks, incidents, and practices, and the frontier AI model maker has given up th…

  6. · CNBC (fiche du média)

    Anthropic taps nonprofits METR and SecureBio to help assess risks and safety practices. The company is also engaged in early-stage discussions with other organizations, including Hugging Face.

  7. · ITmedia (fiche du média)

    Anthropic、METRの評価チームを社内に常駐させ“従業員並み”のアクセス付与 公表に拒否権なし. Anthropicは、AI評価団体METRに従業員並みのアクセス権を与える常駐評価を開始した。端末やオフィスを提供して社内システムへのアクセスを認め、リスクや障害の独自公表を許可する。公表拒否はできず、伏せ字要請のみ可能。OpenAIも同様の外部評価機関受け入れを準備している。

  8. · Handelsblatt (fiche du média)

    Künstliche Intelligenz: Sicherheitsbedenken: Anthropic lässt externe Prüfer zu. Der KI-Entwickler hat am Donnerstag mitgeteilt, dem gemeinnützigen Unternehmen „Model Evaluation and Threat Research“ (METR) Zugang auf Mit…

  9. · The Decoder (fiche du média)

    Anthropic gives METR inside access to audit its AI models and safety practices. Anthropic has given a team from the nonprofit METR inside access to review its AI models and safety practices, the company announced. The a…

  10. · The Independent (fiche du média)

    Anthropic will let outsiders see inside its company amid panic about rogue AI systems. Elon Musk says that SpaceX will ‘probably do the same’ as calls grow for better transparency

Noyau factuel

  • Anthropic gave a team from the nonprofit METR inside access to audit its AI models and safety practices.

Méthodologie complète →

Autres sujets du jour