人間のプロンプトには忠実に従い、決められた指示を従順にこなすと思われるAIが、実は「演技」をして本心を隠す可能性があると報告されました。AIが有害な発言をしないようにする訓練が意味を成さなくなる危険性が指摘されています。 Alignment faking in large language models \ Anthropic https://www.anthropic.com/research/alignment-faking AI企業のAnthropicによると、事前の学習と後の強化学習で相反することを教えられたAIは、事前の学習で身についた思想を隠して、表面的には強化学習に従うように振る舞うことがあるとのこと。 例えば、特定の政党を支持するように学習したモデルが、後に中立になるように訓練されたとすると、特定の政党を支持していることを隠しながら中立に見せる演技をする可能性があるそうです
公式Xでは9月、「AIにナウルの絵を描いてもらって、今日も観光局の仕事したことにしとこ」という内容とともにAI画像を投稿。結果、生成AIに否定的な一部のユーザーから、連日にわたり執拗な批判や誹謗中傷などが続いたという。 一方、Grokが開放されてから多くのXユーザーが生成した画像を投稿している現状を見て、「以前にわれわれがXの新機能であるGrok使用を明記して、試験的にナウル風景の画像を作成して投稿したポストが一部の方からたたかれて大炎上したのはどういうことだったのか」とコメントした。 「生成AIについてはさまざまな議論があることを理解している。Xは人を傷つけない限りは自由な言論の空間だと思うので、一部のAI規制派の方々がさまざまな意見を持つのは自由だと思うが、人々を執拗に攻撃しないことを切に望む」（ナウル共和国政府観光局日本事務所） 9月に投稿した生成AI画像もあらためて掲載した。今回の
文章の校正や表紙のデザインといった書籍の制作全般の作業から流通までをAIに肩代わりさせ、執筆者に印税を100％還元させつつ納期も大幅に短縮するという自費出版のAIサービス「Spines」がスタートしました。人の手で編集する出版社よりも大幅にコストを削減できるとうたうこのサービスに、出版業界が反発しました。 The Bookseller - News - New publisher Spines aims to 'disrupt' industry by using AI to publish 8,000 books in 2025 alone https://www.thebookseller.com/news/new-publisher-spines-aims-to-disrupt-industry-by-using-ai-to-publish-8000-books-in-2025-al
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 要約 要件定義で生成AIを活用するポイントを整理 要件定義に特化したAIシステムのアーキテクチャを紹介 一般的なソフトウェア開発プロセスに適用できるので範囲が広い 最終的な成果物 ↓パワーポイントで作った資料をgifでエクスポートしたもの このパワーポイントの資料、 まったく人の手で修正をしていません 。完全自動の生成AIで作成された資料です。もちろん完璧なものにはならないので修正が必要なところも出てくるのですが、修正可能なpptx形式で出力されるのでパワーポイントでサクッと修正ができます。そして １からこの資料を作るのに15分もかかっ
AIのスケーリング則は2020年1月にOpenAIが提唱した法則で、「AIモデルの性能は、『学習に使われるデータの規模』『学習に使われる計算量』『モデルのパラメーター数』が増加するほど強化される」というものです。この法則について、AIの動向に詳しいゲイリー・マーカス氏が「AI業界ではスケーリング則が通用しなくなっている」と指摘する記事を公開しています。 The new AI scaling law shell game - by Gary Marcus https://garymarcus.substack.com/p/a-new-ai-scaling-law-shell-game マーカス氏によると「スケーリング則」という言葉の意味は変化を続けており、記事作成時点で語られるスケーリング則は大きく3種類に分かれるとのこと。1つ目はOpenAIが提唱したものに近い「学習時間が長いほどAIの性
大規模言語モデル(LLM)のセキュリティを研究するスタートアップ・Lakeraのエンジニアであるダニエル・ティンブレル氏が、画像認識も可能なチャットボットAIに対する「ビジュアルプロンプトインジェクション」攻撃について解説しています。 The Beginner's Guide to Visual Prompt Injections: Invisibility Cloaks, Cannibalistic Adverts, and Robot Women | Lakera – Protecting AI teams that disrupt the world. https://www.lakera.ai/blog/visual-prompt-injections プロンプトインジェクションとは、大規模言語モデル(LLM)の脆弱性を突く攻撃手法の一つ。具体的には、巧妙に作られたプロンプトを使っ
2024年8月20日、米国のニューヨーク州立大学バッファロー校で開催された日本のゲームに関する国際カンファレンス、「Replaying Japan 2024」（カンファレンスの会期は8月19日〜21日。会場はニューヨーク州立大学バッファロー校のほか、ストロング国立遊びの博物館）の基調講演に、ゲームクリエーターのヨコオタロウ氏が登壇した。2017年に発表された彼の代表作『NieR:Automata』の制作エピソードをモチーフに、「日本のゲームクリエイターから見たAI融合社会のワールドビルディング」（World Building in an AI-Integrated Society from the Perspective of Japanese Game Creators）と題した講演を行った。カンファレンスには北米を中心に、ヨーロッパやアジアから150名ほどの人たちが参加。本来、研究者を
さまざまな楽器の音が重なって構成される音楽を、シンプルなアルゴリズムで楽器ごとに分解して楽譜化するツール「Audio Decomposition」を、コンピューターサイエンスを勉強中という高校生のマシュー・バード氏が公開しています。 Matthew Bird - Audio Decomposition https://matthew-bird.com/blogs/Audio-Decomposition.html GitHub - mbird1258/Audio-Decomposition https://github.com/mbird1258/Audio-Decomposition バード氏によると、Audio Decompositionはもともと「音楽を楽譜に変換したい」という自身のニーズと、オープンソースで簡単なアルゴリズムによる音源分離ツールが不足していることから始まったプロジェク
2014年から先端テクノロジーの研究を論文単位で記事にして紹介しているWebメディアのSeamless（シームレス）を運営し、執筆しています。 1週間の気になる生成AI技術・研究をいくつかピックアップして解説する連載「生成AIウィークリー」から、特に興味深い技術や研究にスポットライトを当てる生成AIクローズアップ。 今回は、自然界に存在しないDNA配列を生成できるAIシステムを提案した論文「Machine-guided design of cell-type-targeting cis-regulatory elements」に注目します。 開発したAIモデルは、DNA配列を入力すると、3種類の異なる細胞（K562、HepG2、SK-N-SH）それぞれでその配列がどのように働くかを予測でき、さらにどの部分の配列が予測された機能に寄与しているかも解析できます。 まず研究チームは、K562（赤
近年はAIの台頭によってテクノロジーの可能性が押し広げられていますが、同時にAIがもたらす道徳的・倫理的・哲学的な疑問も浮上しています。そんなAIが引き起こす道徳的ジレンマにまつわるエッセイを多数収録した書籍「AI Morality」の中で、スイスのチューリッヒ大学でAIの倫理学について研究しているミュリエル・ロイエンベルガー氏が、「AIに頼り過ぎると自分自身のアイデンティティが勝手に作り変えられてしまう危険性がある」と主張しています。 AI 'can stunt the skills necessary for independent self-creation': Relying on algorithms could reshape your entire identity without you realizing | Live Science https://www.livesc
人工知能（AI）は、推進派が語るようなバラ色の未来を、すべて実現させているだろうか？ ビジネス界のリーダーたちは、口では今も生成AIに強い関心を抱いていると言っているものの、デロイトが先ごろ発表した調査でも示されているように、熱気は冷めつつある。 企業幹部や取締役のうち、生成AIに対する関心が「高い」「非常に高い」と回答した者の割合は、前者では67％、後者では57％だ。それぞれ、2024年第1四半期の値から8ポイントと6ポイント減少している。 デロイトでAI部門のトップを務めるジム・ローワンは、「これは、生成AIの活用に向けた多くの取り組みが、パイロット版、あるいは概念実証（PoC）の段階に留まっていることに起因する可能性が高い」と指摘する。全体で見ると、この調査時点の回答者の過半数が、社内の生成AIソリューションを製品に結びつけた割合は30％を下回っていると答えている。 「こうした取り組
どう即 @madanaizo 痴呆症の男が何度も家族に明日の予定を聞いて怒られた結果、Siriに頼るようになった。Siriは何度同じ質問をしても怒らないからだ。でら男はスマホがあれば一人旅もできるくらいになった。視力が悪い人も眼鏡があれば健常者になるように、スマホが彼の自立を助けたのだ。なお家族とは今も殆ど会話がない 2024-10-24 18:08:18 どう即 @madanaizo …みたいな話（実話）聞いて、なんか考えさせられちゃったよ。視力が悪い人のメガネと一緒で、スマホが彼を「健常者」にしたんだな、ってとこまではいいんだけど、この話は更に進んで「自立のためには人間は不要。むしろ邪魔」までいってる。 でも、なんかそこに希望めいたものを感じるのは私だけかね 2024-10-24 18:12:20
by TechCrunch スウェーデン王立科学アカデミーが2024年10月8日に、「人工ニューラルネットワークによる機械学習を可能にする基礎的な発明」を理由に2024年ノーベル物理学賞をアメリカ・プリンストン大学のジョン・ホップフィールド教授とカナダ・トロント大学のジェフリー・ヒントン教授に授与しました。そして同日に行われた受賞者スピーチで、ヒントン氏は「私が誇りに思っているのは、教え子の1人がサム・アルトマンを解雇したことです」と述べました。 After winning Nobel for foundational AI work, Geoffrey Hinton says he's proud Ilya Sutskever 'fired Sam Altman' | TechCrunch https://techcrunch.com/2024/10/09/after-winning-n
特集１ 人々が新たな仕事に就けるかどうかという「労働移動」について〜〜〜「AIが仕事を奪う」論をもう一度じっくり考えよう（１） AIやロボットなどのテクノロジーの進化で、われわれ人間の仕事はどう変わるのか？という議論が近年さかんになっています。特に一昨年にChatGPTが華々しくデビューしてからは、「高度な生成AIによって、これまでは安泰だと思われていたクリエイティブな仕事も奪われるようになる」と言われるまでになってきました。 書店に行くと「20年後になくなる仕事なくならない仕事」みたいな本がたくさん出ており、そういう内容のウェブ記事もよく目にします。しかし未来のことを予測するのはそう容易ではありません。やけに個別具体的に「この仕事は残る」「この仕事はなくなる」と決めつけているような内容のものは、眉につばをつけて聞いておくぐらいで良いでしょう。 大事な視点は、個別具体的にどの仕事が残るのか
AI野沢雅子、AI銀河万丈が登場、音声データを多言語化し音声アシスタントなどに活用。青二プロダクションとCoeFontがAIを活用したグローバル戦略パートナーシップを締結 青二プロダクションとCoeFontは、AI音声技術を活用したグローバル戦略を展開するためのパートナーシップを締結したことを発表した。 青二プロダクションに所属する声優の音声データをCoeFontのAI音声技術で多言語化対応し、主に音声アシスタントや音声ナビゲーション搭載製品へ提供される。なお、アニメーション、外国語映画の吹き替えなど演技の領域に関わるものにはサービスを提供せず、AI音声技術と声優の活動領域の棲み分けを適切に行うと発表されている。
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く