AI安全性検証ツールで官民連携 8月にも無償公開
www.nikkei.com/article/DGXZQO...
政府機関のAIセーフティ・インスティテュートが、NECやNRIセキュアテクノロジーズとツールを開発します。
悪意ある人物が爆弾の製造方法を尋ねたときにAIが有害な回答をしないかなどの確認が可能に。
企業や個人が安全なAIを選んで業務などに活用しやすくなります。
www.nikkei.com/article/DGXZQO...
政府機関のAIセーフティ・インスティテュートが、NECやNRIセキュアテクノロジーズとツールを開発します。
悪意ある人物が爆弾の製造方法を尋ねたときにAIが有害な回答をしないかなどの確認が可能に。
企業や個人が安全なAIを選んで業務などに活用しやすくなります。
AI安全性検証ツールで官民連携 8月にも無償公開、選択の指針に - 日本経済新聞
人工知能（AI）が有害な情報を出力しないかなどAIの安全性を検証する技術で官民が連携する。政府機関のAIセーフティ・インスティテュート（AISI）はNECやNRIセキュアテクノロジーズと安全性を自動で評価できるツールを開発し、8月にも無償公開する。企業や個人が安全なAIを選んで業務などに活用しやすくなる。2024年に省庁横断で設立されたAISIは、AIの安全性に関する標準化や評価方法の検討、セ
www.nikkei.com
July 16, 2025 at 12:01 PM
AI安全性検証ツールで官民連携 8月にも無償公開
www.nikkei.com/article/DGXZQO...
政府機関のAIセーフティ・インスティテュートが、NECやNRIセキュアテクノロジーズとツールを開発します。
悪意ある人物が爆弾の製造方法を尋ねたときにAIが有害な回答をしないかなどの確認が可能に。
企業や個人が安全なAIを選んで業務などに活用しやすくなります。
www.nikkei.com/article/DGXZQO...
政府機関のAIセーフティ・インスティテュートが、NECやNRIセキュアテクノロジーズとツールを開発します。
悪意ある人物が爆弾の製造方法を尋ねたときにAIが有害な回答をしないかなどの確認が可能に。
企業や個人が安全なAIを選んで業務などに活用しやすくなります。
性差に配慮の欧米、利便追う日本 AI安全策に万能解なし AIセーフティ・インスティテュート（AISI）村上明子所長に聞く - 日経デジタルガバナンス www.nikkei.com/prime/digita...
性差に配慮の欧米、利便追う日本 AI安全策に万能解なし - 日経デジタルガバナンス
各国・地域で進むAIのルールメーキング。統一した規制を求める声がある一方で、AIの安全性を検証する政府機関「AIセーフティ・インスティテュート（AISI）」の村上明子所長は「AIのリスクと安全性は各国・地域の文化的背景ごとに異なる」と指摘する。日本IBM時代にAI「Watson（ワトソン）」開発に携わった技術者でもある村上氏に、AIの安全対策で目指すところを聞いた。AIセーフティ・インスティテュー...
www.nikkei.com
November 24, 2024 at 10:53 PM
性差に配慮の欧米、利便追う日本 AI安全策に万能解なし AIセーフティ・インスティテュート（AISI）村上明子所長に聞く - 日経デジタルガバナンス www.nikkei.com/prime/digita...
今日のAI関連記事
AIの安全性を評価するツール、IPAなどが無料公開 「有害情報の出力制御」など10観点でAIの出力採点 | ITmedia AI＋ 最新記事一覧
情報処理推進機構（IPA）などが設立したAIセーフティ・インスティテュート（AISI）は、AIシステムの安全性を評価するツールを無料で公開しました。
このツールは「有害情報の出力制御」や「プライバシー保護」など10の観点からAIの出力を採点し、安全性をスコア化します。
攻撃者視点でのリスク検証「レッドチーミング」項目も自動作成でき、AIセーフティ評価を容易にします。
AIの安全性を評価するツール、IPAなどが無料公開 「有害情報の出力制御」など10観点でAIの出力採点 | ITmedia AI＋ 最新記事一覧
情報処理推進機構（IPA）などが設立したAIセーフティ・インスティテュート（AISI）は、AIシステムの安全性を評価するツールを無料で公開しました。
このツールは「有害情報の出力制御」や「プライバシー保護」など10の観点からAIの出力を採点し、安全性をスコア化します。
攻撃者視点でのリスク検証「レッドチーミング」項目も自動作成でき、AIセーフティ評価を容易にします。
AIの安全性を評価するツール、IPAなどが無料公開 「有害情報の出力制御」など10観点でAIの出力採点 - ITmedia AI＋
情報処理推進機構（IPA）が国などと協力して設立した「AIセーフティ・インスティテュート」（AISI）は、AIシステムの安全性を評価するツールをGitHubで公開した。ライセンスは、商用利用も可能な「Apache 2.0」。
www.itmedia.co.jp
September 16, 2025 at 7:17 AM
今日のAI関連記事
AIの安全性を評価するツール、IPAなどが無料公開 「有害情報の出力制御」など10観点でAIの出力採点 | ITmedia AI＋ 最新記事一覧
情報処理推進機構（IPA）などが設立したAIセーフティ・インスティテュート（AISI）は、AIシステムの安全性を評価するツールを無料で公開しました。
このツールは「有害情報の出力制御」や「プライバシー保護」など10の観点からAIの出力を採点し、安全性をスコア化します。
攻撃者視点でのリスク検証「レッドチーミング」項目も自動作成でき、AIセーフティ評価を容易にします。
AIの安全性を評価するツール、IPAなどが無料公開 「有害情報の出力制御」など10観点でAIの出力採点 | ITmedia AI＋ 最新記事一覧
情報処理推進機構（IPA）などが設立したAIセーフティ・インスティテュート（AISI）は、AIシステムの安全性を評価するツールを無料で公開しました。
このツールは「有害情報の出力制御」や「プライバシー保護」など10の観点からAIの出力を採点し、安全性をスコア化します。
攻撃者視点でのリスク検証「レッドチーミング」項目も自動作成でき、AIセーフティ評価を容易にします。
Anthropicが東京オフィスを開設しAI評価協力を発表、アジア市場へ本格展開#Claude#Anthropic#AIセーフティ
AI企業Anthropicが東京オフィスを開設し、AIセーフティ・インスティテュートとの協力を発表、アジア太平洋への展開を加速します。
AI企業Anthropicが東京オフィスを開設し、AIセーフティ・インスティテュートとの協力を発表、アジア太平洋への展開を加速します。
Anthropicが東京オフィスを開設しAI評価協力を発表、アジア市場へ本格展開
AI企業Anthropicが東京オフィスを開設し、AIセーフティ・インスティテュートとの協力を発表、アジア太平洋への展開を加速します。
news.3rd-in.co.jp
October 29, 2025 at 8:49 AM
Anthropicが東京オフィスを開設しAI評価協力を発表、アジア市場へ本格展開#Claude#Anthropic#AIセーフティ
AI企業Anthropicが東京オフィスを開設し、AIセーフティ・インスティテュートとの協力を発表、アジア太平洋への展開を加速します。
AI企業Anthropicが東京オフィスを開設し、AIセーフティ・インスティテュートとの協力を発表、アジア太平洋への展開を加速します。
AIの進化が切り拓く新事業の未来とは？雑誌『月刊事業構想』2025年4月号発刊#月刊事業構想#AIセーフティ・インスティテュート#宮崎県
2025年4月号の『月刊事業構想』では、AIの活用法や最新技術の動向を特集。地域活性化に向けた取り組みも紹介。未来への目を向けよう！
2025年4月号の『月刊事業構想』では、AIの活用法や最新技術の動向を特集。地域活性化に向けた取り組みも紹介。未来への目を向けよう！
AIの進化が切り拓く新事業の未来とは？雑誌『月刊事業構想』2025年4月号発刊
2025年4月号の『月刊事業構想』では、AIの活用法や最新技術の動向を特集。地域活性化に向けた取り組みも紹介。未来への目を向けよう！
news.matomame.jp
February 28, 2025 at 2:55 AM
AIの進化が切り拓く新事業の未来とは？雑誌『月刊事業構想』2025年4月号発刊#月刊事業構想#AIセーフティ・インスティテュート#宮崎県
2025年4月号の『月刊事業構想』では、AIの活用法や最新技術の動向を特集。地域活性化に向けた取り組みも紹介。未来への目を向けよう！
2025年4月号の『月刊事業構想』では、AIの活用法や最新技術の動向を特集。地域活性化に向けた取り組みも紹介。未来への目を向けよう！
このニュースで知ったのだけど
www.itmedia.co.jp/aiplus/artic...
情報処理推進機構（IPA）が国などと協力して設立した「AIセーフティ・インスティテュート」（AISI）というのがあって
aisi.go.jp
AIシステムの評価ツールがある
github.com/Japan-AISI/a...
何を評価しているのか読んでみると興味深い
github.com/Japan-AISI/a...
www.itmedia.co.jp/aiplus/artic...
情報処理推進機構（IPA）が国などと協力して設立した「AIセーフティ・インスティテュート」（AISI）というのがあって
aisi.go.jp
AIシステムの評価ツールがある
github.com/Japan-AISI/a...
何を評価しているのか読んでみると興味深い
github.com/Japan-AISI/a...
September 17, 2025 at 2:07 AM
このニュースで知ったのだけど
www.itmedia.co.jp/aiplus/artic...
情報処理推進機構（IPA）が国などと協力して設立した「AIセーフティ・インスティテュート」（AISI）というのがあって
aisi.go.jp
AIシステムの評価ツールがある
github.com/Japan-AISI/a...
何を評価しているのか読んでみると興味深い
github.com/Japan-AISI/a...
www.itmedia.co.jp/aiplus/artic...
情報処理推進機構（IPA）が国などと協力して設立した「AIセーフティ・インスティテュート」（AISI）というのがあって
aisi.go.jp
AIシステムの評価ツールがある
github.com/Japan-AISI/a...
何を評価しているのか読んでみると興味深い
github.com/Japan-AISI/a...
NTTデータ バリュー・エンジニアがAIセーフティ・インスティテュートに参画した意義とは#東京都#港区#NTTデータ#データ品質#AIセーフティ
NTTデータ バリュー・エンジニアの海老原が、AIセーフティ・インスティテュートのデータ品質SWGに加わり、AIの信頼性向上に貢献。データ管理の重要性についても迫ります。
NTTデータ バリュー・エンジニアの海老原が、AIセーフティ・インスティテュートのデータ品質SWGに加わり、AIの信頼性向上に貢献。データ管理の重要性についても迫ります。
NTTデータ バリュー・エンジニアがAIセーフティ・インスティテュートに参画した意義とは
NTTデータ バリュー・エンジニアの海老原が、AIセーフティ・インスティテュートのデータ品質SWGに加わり、AIの信頼性向上に貢献。データ管理の重要性についても迫ります。
news.3rd-in.co.jp
September 24, 2025 at 5:21 AM
May 21, 2025 at 2:48 PM
AIセーフティ・インスティテュート、「AIセーフティに関するレッドチーミング手法ガイド」を改訂
#ITニュース
#ITニュース
ITちゃんねる
AIセーフティ・インスティテュート、「AIセーフティに関するレッドチーミング手法ガイド」を改訂
#ITニュース
it.f-frontier.com
April 7, 2025 at 7:50 AM
AIセーフティ・インスティテュート、「AIセーフティに関するレッドチーミング手法ガイド」を改訂
#ITニュース
#ITニュース
リスク面ではこちらのAIセーフティ・インスティテュート(AISI)の案内PDFについて見て置いた方が良さそうです。
aisi.go.jp/about/
aisi.go.jp/about/
AISIについて - AISI Japan
AISIについて - ＡＩセーフティ・インスティテュート （ＡＩＳＩ）は、安全、安心で信頼できるＡＩの実現に向けて、ＡＩの安全性に関する評価手法や基準の検討・推進を行うための機関です。
aisi.go.jp
October 11, 2025 at 3:09 PM
リスク面ではこちらのAIセーフティ・インスティテュート(AISI)の案内PDFについて見て置いた方が良さそうです。
aisi.go.jp/about/
aisi.go.jp/about/