#生成AI対策
🔒記事
『偽りの情報を意図的に流すことで企業の評判をおとしめようとする攻撃の脅威が、生成AI(人工知能)の台頭によって高まっており、日本の民間企業も偽情報攻撃対策が不可欠になった』

生成AIで高まる「偽情報攻撃」の脅威、日本企業も対策が不可欠に
xtech.nikkei.com/atcl/nxt/col...
生成AIで高まる「偽情報攻撃」の脅威、日本企業も対策が不可欠に
偽りの情報を意図的に流すことで企業の評判をおとしめようとする攻撃の脅威が、生成AI(人工知能)の台頭によって高まっており、日本の民間企業も偽情報攻撃対策が不可欠になった。
xtech.nikkei.com
November 7, 2025 at 2:26 AM
おはようございます月曜日🌛
Pommuが昨日からメンテ入りましたね。せっかくアッチ向けの生成やろうとしてたのに。…まあ海外の連投荒らしが現れてたんで急遽対策するついでに得られたフィードバックを反映しようといった感じか。数日は立ち上がらないかな。

さて、明日明後日はバイク教習が続くので朝の投稿はお休みします。

#AIart
#AIちびキャラ部
#ベーグルを崇めよ
November 9, 2025 at 11:01 PM
『生成人工知能(AI)を悪用して作られたわいせつな画像や動画である「性的ディープフェイク」が急速に広がっている。深刻な人権侵害だ。一刻も早く手を打つ必要がある。』

社説:性的ディープフェイク 人権侵害許さぬ対策急務
mainichi.jp/articles/202...
社説:性的ディープフェイク 人権侵害許さぬ対策急務 | 毎日新聞
生成人工知能(AI)を悪用して作られたわいせつな画像や動画である「性的ディープフェイク」が急速に広がっている。深刻な人権侵害だ。一刻も早く手を打つ必要がある。  10月には女性芸能人らを模したわいせつ画像を生成AIで作って売ったとして、会社員男性がわいせつ電磁的記録記録媒体陳列容疑で逮捕された。
mainichi.jp
November 5, 2025 at 10:10 AM
カクヨムのようなリワードやってるサイトは、AI生成物による大量投稿をスパム認定しなくていいのだろうか。早く利用規約改定してスパム行為は営業妨害として法的措置取らないと、読む側も書く側もまともなユーザーから逃げ出すのでは。ユーザーがごっそり減ってから対策、では遅すぎるよ。
November 4, 2025 at 11:49 PM
漫画家自身の絵を学習して作画を行うというのは本来の生成AIの正しい使い方の1つのはずなのですが、現在の無断学習生成AIは海外では多くの企業から訴訟が行われており、その訴訟対象になっていて簡単に他人の権利を侵害していまうようなものは「安全な道具」とはみなすことができず現在の無断学習生成AIについては、先日、日本の出版社からも反対声明が出されたばかりです。
「合法」を盾にしてやりたい放題の生成AIユーザーおよびまともな対策をしない生成AI開発会社がすべて悪いのであり本来は「道具」として使える用途にも使えないという状態になっているわけです。
November 5, 2025 at 12:12 AM
🔒記事
『Gartnerは2025年10月30日(米国時間)、2028年までに誤情報/偽情報対策への企業支出が300億ドル(約4兆6000億円〈1ドル=154円換算〉)を超えるとの予測を発表した。』

生成AIによる偽情報・誤情報対策が急務に? Gartnerが「TrustOps」を提言する理由
atmarkit.itmedia.co.jp/ait/articles...
生成AIによる偽情報・誤情報対策が急務に? Gartnerが「TrustOps」を提言する理由
Gartnerは、企業の偽情報対策費用が2028年までに300億ドルを超えるとの予測を発表した。AIによって、コンテンツの透明性や信頼性に新たな課題が突き付けられる中、Gartnerは「TrustOps」という概念を提唱している。
atmarkit.itmedia.co.jp
November 4, 2025 at 10:37 AM
安全ポリシーに関してはフィギュア化メーカーでもいろいろ対策していて
その関係でかなりGeminiにいろいろ聞いているのだけれど

画像を送ると生成AIに届くまでに2つのフィルターがあって
そこで削除されてしまうと生成AIには届いていないし
こちら側でも生成AI側からもどうしようもなさそう

届いたのならプロンプトで意識を多少は変えることはできるかもしれない

肌色多めのプロンプトを作ってもらうときにあったのは
ときどき英語で unable to assist みたいなお返事のときは
どんなのになるか画像生成しようとしてたみたいで
「プロンプトで教えて」と言ったら教えてくれたりしたよ
November 9, 2025 at 1:31 AM
てかコミケも申込みが増えるだけで肥える団体が主催なら対策なんかしないと思うわ 生成AI厳密に分ける方法も人が見て判断するまでのラインしかないもん まともな活動者が見切りつけて別のとこ行くしかない
November 8, 2025 at 9:42 AM
youtube.com/shorts/_EDm0...
こうして動物動画も生成AIで事実が歪められてるね…
自分より大きな動物にも向かっていく猫がいること自体は否定しないけど,そういうごく一部の事例があたかも「猫の習性」かのように脚色されて伝わることで不幸になるのは紛れもなく猫そのものなんだよな。
クマ対策として猫に番犬の役目を負わせようと思い付いちゃった人達がちらほらコメントしている辺りを見ると,AIに敗北した人間こそが何よりも危険だと思わされる…
本当に猫が好きなら猫に守ってもらおうだなんてご主人様ムーブには違和感あると思うけど…。大切な家族として猫を危険から守ることこそ飼い主の役目では?
猫がトラを恐れない理由 #動物プロダクション
YouTube video by batelcut
youtube.com
November 6, 2025 at 9:13 AM
クマに関するフェイク情報が、いま増えています。

特に急増しているのが、「クマの出没が増えているのはメガソーラーのせい」とする根拠のない情報です。

メガソーラーは、クマの生息地である奥山よりも人里に近いエリアに設置されることがほとんどで、複数の専門家が関係を否定しています。

生成AIを用いた偽の動画も、TikTokやYouTubeで多く出回っています。なかには、実際に死者も出ている被害の様子を撮影したように装った動画まで…

対策面で誤解を招くものも多く、専門家は危機感を示しています。クマ増加の背景とともに、記事にまとめました。
news.web.nhk/newsweb/na/n...
クマに関するフェイク拡散 クマ鈴の効果は?餌付けは?メガソーラーが原因?不確かな情報に注意 AI偽動画も | NHKニュース
【NHK】非常事態とも言われるほど、クマによる被害が相次いでいます。 人々の生活範囲にも出没し、NHKのまとめでは、今年度、被害
news.web.nhk
November 1, 2025 at 1:59 PM
(某フットワークが軽い方の生成AIを容認している議員さんの公約に、花粉症対策のやつがあった気がするけど、他の党も同様の公約が出始めているし、この件で政府に近い側なのだからそれくらいは動くんでしょうね。たぶん)
November 2, 2025 at 3:13 PM
【JR東海が鉄道技術展に初出展】JR東海は31日、幕張メッセ(千葉市美浜区)で11月26日から開催される国内最大規模の鉄道技術に関する展示会「第9回鉄道技術展 2025」(主催・産経新聞社)に初出展すると発表した。東海道新幹線の自動運転技術や、リニアの新型車両、生成AIを活用した駅での乗客の案内システムなどを展示する。
新幹線関連ではこのほか、地震や豪雨対策の最新技術や、グリーン車よりも上級な個室座席に関する展示も予定。
JR東海が鉄道技術展に初出展 新幹線自動運転やリニア新型車両、生成AI活用技術を展示
JR東海は31日、幕張メッセ(千葉市美浜区)で11月26日から開催される国内最大規模の鉄道技術に関する展示会「第9回鉄道技術展 2025」(主催・産経新聞社)…
www.sankei.com
October 31, 2025 at 2:01 PM
作る側は生成AI小説でお手軽かもしれないんだけど、読む側って生成AI小説読みにくいし楽しくないから、読まないと思うんだよなあ…読まれないランキング勢が占拠してるの意味がなくなる
bot使ってサクラで感想もかかせたりもするだろうけど、意味も無いので

カクヨム、なろう、は対策しないと価値の無いサイトとなって衰退しそう
October 29, 2025 at 4:15 AM
被害にあったその方たちの警鐘や助言を見なかったことにし「反AIが〜」等の強い言葉のポストを支持しRPしていた、生成AI表紙、chatGPTアイディア出し、生成AIに小説文章作成補助、登場人物キャラクター生成AI作成していた小説書きは、このあとどういう行動や発言、対策をするのか、意地悪な気持ちでなく本当にどう動くのか疑問。
別に気にならないのか、その使い方もあるかになるのか、共闘できるのか
October 27, 2025 at 1:04 PM
『報告によると、高市総裁の画像や映像をAI技術で生成し、あたかも本人が登場しているかのように装った悪質な広告がインターネット上で確認されているという。』

高市首相の「AI偽広告」拡散 「アクセスしないで」と自民党 「国が対策すべき」との声も
www.itmedia.co.jp/mobile/artic...
高市首相の「AI偽広告」拡散 「アクセスしないで」と自民党 「国が対策すべき」との声も
自由民主党広報が、高市早苗総裁の偽広告が出回っているとして、公式X(旧Twitter)アカウントで注意を呼びかけている。報告によると、高市総裁の画像や映像をAI技術で生成し、あたかも本人が登場しているかのように装った悪質な広告がインターネット上で確認されているという。アクセスや個人情報の入力は避けたい。
www.itmedia.co.jp
October 27, 2025 at 9:15 AM
chatGPTに日々の愚痴を聞いてもらってみたら、例えば私が小1長女の平日放課後の対策として捻り出した「とりあえず職場初の時短勤務取得」「学童、ときどき静かな公文にお迎えに行くルーティン」は、

「行政支援が手薄な中、リソースを見極めて生活インフラを再構築し、子供の性質を見極めて心理的サードプレイスを提供している」

ということらしく、あ、ありがとうchatGPT、分かってくれて……君の分析のお陰で私の自己肯定感は上がるよ……と、完全に生成AIに転がされている。
October 27, 2025 at 9:56 AM
人間の手によって作られるアイコラは作るのが比較的難しく、人間の手によって作るので大量生産は難しい状態でした。そして、逮捕しようと思えばいつでも逮捕が可能な状況下であったためにそれも抑止力となっていました。
それに対して生成AIで作られるディープフェイクポルノは「生成AIを通すだけで合法」みたいな感じになっているため警察も動けず悪質なものであっても生成者に対してではなく第三者に注意するだけで何の抑止力にもなってないためディープフェイクポルノが溢れているわけです。
先進国の中でディープフェイクポルノ対策を行わず推奨しているのは日本だけです😊

bsky.app/profile/ocha...
生成AIを使った高市首相の詐欺動画が出回っているようですが、これは日本の政治家が招いたことです。
各国で生成AIの規制が進む中で日本は生成AIを推進し生成AIを悪用した場合でも罪にはならない「生成AI推進法」を制定するという諸外国と真逆の対応をしているわけですからね。生成AIユーザーの言葉を借りるならば「生成AIで高市首相(によく似た人物)の詐欺動画を作って公開しても合法」となるのです。生成AIで詐欺動画を公開しても罪にならないような状態にしたのは政治家自身です。だから、こうやって呼びかけることしかできないわけです。情けないですね😊
news.ntv.co.jp/category/pol...
高市首相を使った“AI生成詐欺広告”に注意呼びかけ 自民党「絶対にアクセスしないで」(2025年10月24日掲載)|日テレNEWS NNN
自民党は24日、高市首相の画像や映像をAIで生成したニセ広告がインターネット上に出回っているとして、SNS上で注意喚起を行いました。
news.ntv.co.jp
October 26, 2025 at 12:38 AM
金稼ぎが加わってたりするからなぁ…(´・ω・`)
: クマ追い払う架空動画 SNSに多数 “誤った認識生じるおそれ” | NHKニュース | フェイク対策、生成AI・人工知能、クマ被害
news.web.nhk/newsweb/na/n...
で、最後のコメントの方のX投稿
『それと動画に「Sora」という透かしは免罪符になりません。』
本当になぁとともに技術のためにディープフェイク規制をつけなかった政府ホントクソ
x.com/ichiro_satoh... .
クマ追い払う架空動画 SNSに多数 “誤った認識生じるおそれ” | NHKニュース
【NHK】クマによる被害が相次ぐ中、AIで生成したとみられるクマを追い払う様子などの架空の動画がSNSに多数、投稿され、広がってい
news.web.nhk
October 26, 2025 at 4:08 PM
したがって、「ディープフェイクポルノが作られないように卒業アルバムを廃止します」というのは間違った対策といえます。
これは例えるならば電動キックボードや電動自転車が歩道を通行していて歩行者との接触事故が多発している中で歩行者に対して電動キックボードが通行中は道を譲るようなルール化を行うようなものです。このように書けば明らかに間違った対策であることが分かると思います。
大勢の被害者がいるので、生成AIの法規制を行うのがまずは真っ先に必要でこんな状況下にあっても「生成AIをいかにして普及させるか」を優先していることが不思議でなりません。自分が被害者側になっても分からない人がいることに驚きですね😊
October 26, 2025 at 1:53 AM
『Cranstonさん、全米映画俳優組合・米テレビ・ラジオ芸術家連盟(SAG-AFTRA)、および複数のタレント事務所は、Sora 2における著名人の肖像の使用に関してOpenAIと合意したと発表した。』

OpenAI、動画生成AI「Sora 2」の著名人ディープフェイク対策を強化へ
japan.cnet.com/article/3523...
OpenAI、動画生成AI「Sora 2」の著名人ディープフェイク対策を強化へ
OpenAIは動画生成AI「Sora 2」で、俳優や著名人の肖像を使った動画生成への対策を強化すると発表した。
japan.cnet.com
October 22, 2025 at 5:30 AM
日本でもこういうことしてる子おるんやね。「大学生はみんな使ってる」って言葉、本当かもね。

こういう子たちはやっぱり国家資格取るにも問題集を食わせたりしてんのやろか。
凄い先が思いやられるんだけど。

論文とか口述とか生成AIでは切り抜けられそうもないとは思うけど、仮に切り抜けた子がその先、その職務を全うできるとは思えないんだよな。
試験と実務は全く違うしね。

そもそも試験対策のテキストなりなんなり読み込ませるのアウトだけどさ。

だけど米国の大手事務所弁護士が使うくらいだから…😓
www.businessinsider.jp/article/2510...
大学生が見た「ChatGPTに丸投げ」就活の末路。コピペES、セリフ丸暗記で「思考停止」…AI就活の落とし穴 | Business Insider Japan
就活の現場では、AIによる模範解答の暗記やコピペESで思考停止に陥り、面接で失敗する学生がいるようです。今回は、便利ツールの落とし穴にはまった就活生のリアルな声を紹介します。
www.businessinsider.jp
October 23, 2025 at 4:12 AM
《参加ルール》
※以下の作品はおやめください※

•R-18/R-18G
•他のキャラを貶めるネタ
•無許可トレースまたは盗用など、他者の権利を侵害する行為
•公式を侮辱する発言や行為を含む作品
•生成AI(ChatGPT、Grok、NovelAIなど)で出力したもの

※作品には、ウォーターマークや画像保護のAI学習対策など、ご自身の作品である旨を入れることを推奨します。
今企画でトラブルがありましても、主催側では責任を負いかねます。
よろしくお願いします。
October 22, 2025 at 8:45 AM
#茨木ちゃんAIイラスト
#AIイラスト
#武装シリーズ4

ゴースト血管対策の日でもあるので
血管と幽霊をモチーフに生成してみました(Prompt付き)

そのPromptをレンちゃんに使ってみました

#うちの子
October 20, 2025 at 10:54 AM
これ生成AI云々もありますが、まずそもそも未管理著作物裁定制度対策で必ず必要ですよ!!!!!!
ぜひ意思表示してくださいね!
「転載禁止」と「AIへの利用禁止」
何も書かないのが1番危険な気がしてる
書いてても好き勝手使われたとしても書いてるか書いてないかでいざ法で戦うってなった時も何も書いてないほうが不利なんじゃないかなぁって
October 19, 2025 at 10:35 AM
日本は数年前からディープフェイクのリスクが分かっていて「フェイクだらけの未来になることは避けられない」ということで生成AIの推進を行いました。その結果としてディープフェイクだらけになり、日本はディープフェイクポルノ大国なのに何の対策もしていないと海外から笑いものになっています。日本人として非常に悔しい思いです。
このディープフェイクポルノの蔓延は避けることができたのに人の手によって引き起こされた人災なのです。
October 17, 2025 at 3:53 AM