digesta
Just signalNo noise

← К ленте

Anthropic впервые пустила внешних аудиторов METR внутрь своих систем

–

Нейтральное саммари

Anthropic объявила, что предоставляет команде некоммерческой организации METR (Model Evaluation and Threat Research) доступ к своим моделям и внутренним системам на уровне сотрудника. METR получит рабочие места, устройства и доступ к внутренним системам компании, а также сможет публиковать собственные оценки рисков, инцидентов и практик Anthropic без права вето со стороны компании — та сможет лишь попросить о редактировании. Генеральный директор Anthropic Дарио Амодеи называл привлечение внешних оценщиков одной из своих главных инициатив по решению проблем безопасности. Компания также ведёт переговоры на ранней стадии с другими организациями, включая Hugging Face, а по данным ITmedia, аналогичную программу с внешними оценщиками готовит и OpenAI. Илон Маск заявил, что SpaceX «вероятно, сделает то же самое». Ранее в отношении чат-бота Claude неоднократно высказывались опасения по поводу безопасности.

Как это подали

Изданий: 9. Стран: 5. Фактов в общем ядре: 1.

Хронология выхода

  1. · Channel NewsAsia (профиль издания)

    Anthropic grants AI evaluator METR employee-level access to its models

  2. · Channel NewsAsia (профиль издания)

    Anthropic grants outside evaluator METR employee-level access in AI safety push

  3. · Business Insider (профиль издания)

    Anthropic just opened its doors to outside safety watchdogs. Here's how it will work.. Anthropic is opening its doors to independent AI safety evaluators from METR, the first time a frontier AI company has done so.

  4. · Financial Times (профиль издания)

    Anthropic grants non-profit METR ‘employee-like’ access to monitor AI risks. CEO Dario Amodei has made bringing in external evaluators one of his main proposals to address safety concerns

  5. · TechCrunch (профиль издания)

    Anthropic is letting METR researchers look under the hood with employee-level access. METR will publish its own assessments of Anthropic’s risks, incidents, and practices, and the frontier AI model maker has given up th…

  6. · CNBC (профиль издания)

    Anthropic taps nonprofits METR and SecureBio to help assess risks and safety practices. The company is also engaged in early-stage discussions with other organizations, including Hugging Face.

  7. · ITmedia (профиль издания)

    Anthropic、METRの評価チームを社内に常駐させ“従業員並み”のアクセス付与 公表に拒否権なし. Anthropicは、AI評価団体METRに従業員並みのアクセス権を与える常駐評価を開始した。端末やオフィスを提供して社内システムへのアクセスを認め、リスクや障害の独自公表を許可する。公表拒否はできず、伏せ字要請のみ可能。OpenAIも同様の外部評価機関受け入れを準備している。

  8. · Handelsblatt (профиль издания)

    Künstliche Intelligenz: Sicherheitsbedenken: Anthropic lässt externe Prüfer zu. Der KI-Entwickler hat am Donnerstag mitgeteilt, dem gemeinnützigen Unternehmen „Model Evaluation and Threat Research“ (METR) Zugang auf Mit…

  9. · The Decoder (профиль издания)

    Anthropic gives METR inside access to audit its AI models and safety practices. Anthropic has given a team from the nonprofit METR inside access to review its AI models and safety practices, the company announced. The a…

  10. · The Independent (профиль издания)

    Anthropic will let outsiders see inside its company amid panic about rogue AI systems. Elon Musk says that SpaceX will ‘probably do the same’ as calls grow for better transparency

Фактическое ядро

  • Anthropic gave a team from the nonprofit METR inside access to audit its AI models and safety practices.

Методология целиком →

Другие сюжеты дня