大規模言語モデル採用スクリーニングにおけるプロンプトインジェクション：効果と課題とは？
大規模言語モデルによる自動履歴書スクリーニングにおけるプロンプトインジェクション: 単一と多重インジェクション設定
査読前の可能性がある研究情報
大規模言語モデルを用いた採用プロセスにおけるプロンプトインジェクションの効果と課題が明らかに
arXiv cs.AI
毎日更新・AIニュース考察
AI記事考察ノート
公式発表・研究プレプリント・実装コミュニティの記事を、読む前に押さえたい文脈と注意点つきで整理。
6342掲載記事
3833深堀り対応
01
絞り込み結果
条件に一致した記事を、新しい順にまとめています。 10動的攻撃への脆弱性——対話型LLMエージェントのセキュリティ評価は進むか？
査読前の可能性がある研究情報
対話型LLMエージェントに対する間接的なプロンプトインジェクション攻撃への外部防御戦略を評価
速報・AI要約未精査
こんな人にセキュリティ専門家・AIエンジニア
arXiv cs.AIRAGベースチャットボットのセキュリティを強化する新フレームワークとは？
査読前の可能性がある研究情報
大規模言語モデル(LLM)のプロンプトインジェクションに対する3層セキュリティフレームワークを提案
速報・AI要約未精査
こんな人にAIセキュリティ専門家・LLM開発者
arXiv cs.CL大規模言語モデル、セキュリティの新たな課題を抱えるか？
査読前の可能性がある研究情報
大規模言語モデルを用いたフィッシングメール検出手法LLMPEAが提案され、高い精度と新たな脆弱性が明らかに
こんな人にセキュリティエンジニア・AI研究者
arXiv cs.AIRapid Responseフレームワーク：新たなセキュリティ脅威とその対策とは？
査読前の可能性がある研究情報
Rapid Responseフレームワークに対するプロンプトインジェクションによる攻撃手法が明らかに
こんな人にセキュリティ専門家・大規模言語モデル開発者
arXiv cs.CLOpenAI、データ漏洩リスクを制限する「Lockdown Mode」が登場
個人の見解・実装体験を含む記事
OpenAI、データ漏洩防止モード「Lockdown Mode」を導入
速報・AI要約未精査
こんな人に企業のAI担当者・ChatGPT利用者
Simon Willison's WeblogChatGPT、プロンプトインジェクション対策で安全性を強化
ChatGPTはプロンプトインジェクションやソーシャルエンジニアリングからの防御策を強化
速報・AI要約未精査
こんな人にセキュリティ担当者・AI開発者
OpenAI NewsAIエージェントがURLを開くとき、ユーザーのデータは安全か？
OpenAIが、AIエージェントによるURLクリック時のデータ保護対策を紹介
速報・AI要約未精査
こんな人にセキュリティ専門家・データ保護担当者
OpenAI Newsプロンプトインジェクション攻撃への新たな防御——ChatGPT Atlasのセキュリティ強化とは？
OpenAIは、ChatGPT Atlasのセキュリティを強化し、プロンプトインジェクション攻撃への対策を進めている。
速報・AI要約未精査
こんな人に企業のAI担当者・セキュリティエンジニア
OpenAI Newsプロンプトインジェクション：新たなAIセキュリティ課題とは？
プロンプトインジェクションは、AIシステムに対する新たなセキュリティ脅威を示しています。
速報・AI要約未精査
こんな人に企業のAI担当者・セキュリティ専門家
OpenAI News