Lightnews — Scholar-powered news

™︎

@tmaehara.bsky.social

1.2K followers 790 following 2.6K posts

https://tmaehara.gitlab.io/; TCS Researcher & ML Engineer. Brilliant British Foods: https://bsky.app/profile/did:plc:dqxsa5cjfrzulhalom4kuyd2/feed/aaaiqwjhlzavy Bluesky Bots https://gitlab.com/tmaehara/bluesky-newsbots

tmaehara.gitlab.io

Posts Media Videos Starter Packs

™︎ @tmaehara.bsky.social · 11h

会話としては「それを指摘するのは実害があるレベルで迷惑だけど？」で終わる。

™︎ @tmaehara.bsky.social · 11h

あれは「任意の人間は有限のリソースを食うので迷惑」と同じ主張で、「迷惑」の定義にギャップがあるやつ。

1 1

™︎ @tmaehara.bsky.social · 1d

おうち k8s を Proxmox + CAPI + Talos OS にしてみた。環境を丸ごと破壊するのがすごく楽でいいな。

™︎ @tmaehara.bsky.social · 5d

おうち k8s, 最初ラズパイで組んでたけど結局 x86 が欲しくなってちゃんとしたクラスタを組んじゃったパーソン

™︎ @tmaehara.bsky.social · 5d

YouTube さん頑なに Short に auto-dubbing を disable するオプションをつけないのなんなの．

™︎ @tmaehara.bsky.social · 5d

Sonnet 4.5，instruction following が Opus 4.1 よりもかなり弱いと感じるので，まだ Opus 4.1 を使わざるを得ない．より多くの常識を知っていることよりも instruction following の精度が高いことの方が重要．

™︎ @tmaehara.bsky.social · 6d

問題はそこなんですよねえ。説明可能性軸でストーリーを展開したいので、少なくともひとつキラーアプリケーション（と研究者が思えるもの）を作らないとダメで、そこで悩んでる感じです。

™︎ @tmaehara.bsky.social · 6d

モデル化はそれでいいと思っていて、計算量として sublinear とかを目指せばいいかなと思ってるんですけど、ストーリーとか例題作りがうまくいってないです（AI/ML として解けて嬉しいと説明できるものを作れてない）。このフレームワークがあってないのか発想力が足りないのか……

™︎ @tmaehara.bsky.social · 6d

わたしは説明可能性については「人間が verify できること」が一番大事だと考えていて，その観点でずっと色々やってるんだけど（cf x.com/tmaehara/sta... x.com/tmaehara/sta... ）全然論文になる仕事ができてない．わりとこれはわたしの能力不足．

x.com

1 10

™︎ @tmaehara.bsky.social · 6d

わたしはそもそも説明可能性の主流派の研究にはあんまり期待してないんですが……
cf: x.com/tmaehara/sta...

x.com

™︎ @tmaehara.bsky.social · 6d

ここ最近の研究・応用のトレンドは AI 自身に判断基準を説明させることだけど，これも応用を選ぶ．具体的には，監査的な応用では一切使い物にならない（AI の出力を信じられない状況では，AI が生成する説明も信じられないため）．

™︎ @tmaehara.bsky.social · 6d

AI がやってることをミクロに説明するのはとても簡単だけど，マクロに見たときにどうしてこれだけパラフルなのかは全然わかってない．元々のホワイトボックス AI はミクロ側を頑張って説明しようとしてたけど（via 重みや勾配を可視化），わからないポイントはそこじゃない．

1 3

™︎ @tmaehara.bsky.social · 6d

多分もう誰も原義の「ホワイトボックス AI」には期待してないと思う．

1 3

Reposted by ™︎

Stray(迷子人) @bmf6ntfqsi0hfrp.bsky.social · 6d

blog.since2020.jp/ai/blackbox_...
出した結果の根拠がわかる「ホワイトボックスAI」と、根拠がわからない「ブラックボックスAI」
2022/11/22
2019年あたりの記事探してたら2022年のが見つかったが分かりやすいので貼っておく

欧米ではXAIもホワイトボックスのAI扱いらしい?本当かな?

blog.since2020.jp