※ネタ記事です はじめに 検証する脆弱性 Tips. GPT-3 とは？ WAFの実装 環境・必要なもの ソースコード 検証 正常リクエスト XSS GETパラメータ POSTデータ POSTデータ & ヘッダ無し SQL インジェクション GETパラメータ GETパラメータ & ヘッダ無し XXE POSTパラメータ① POSTパラメータ② POSTパラメータ & ヘッダ無し パストラバーサル GETパラメータ GETパラメータ & ヘッダ無し OS コマンドインジェクション GETパラメータ & ヘッダー無し GETパラメータ Log4Shell POSTパラメータ POSTパラメータ & ヘッダ無し POSTパラメータ & ヘッダ無し WordPress のユーザ列挙 ShellShock まとめ はじめに 最先端(?)であるGPT-3を使って 次世代WAF を作っていきます。 以下
皆さんこんにちは。健康診断の結果がちょっと気になる年齢になってきたSsk1029Takashiです。 GPT-3を扱ってチャットボット作ってみる記事の第2弾になります。 第1弾のこちらもぜひご覧ください。 acro-engineer.hatenablog.com 前回は質問応答システムとしてGPT-3を活用しましたが、今回はAIアシスタントとしてGPT-3を活用してみます。 AIアシスタントとは何かというと、Google Homeのように命令を入力すると、それに沿った処理を実行してくれるシステムを指します。 ChatGPTとの違いは命令の結果は必ずしも文章生成だけではないということです。 ChatGPTでは文字列を入れて、要求に沿った文字列を返します。 対して、AIアシスタントでは、カレンダーに予定を入力したり、アラームを設定したりなど、具体的なタスクを実行します。 この記事では、前回に続
こんにちは。社内データサイエンスチームYAMALEXの@Ssk1029Takashiです。 最近はChatGPTが出て注目を浴びたり、BingにもChatGPTのように質問応答してくれるAIが搭載されるなど、OpenAIのGPTモデルが世の中を騒がせています。 私もChatGPT使ってみましたが、受け答え自体は人が書いていた文章と遜色なく、文章の自動生成もここまで来たか。。という感じでした。 そんなChatGPTの特徴の一つとして、回答には時々嘘が含まれるというものがあります。 ChatGPT自体は知識を持っているわけではないので、学習データにないことなどはそれっぽいけどでたらめな回答を返してしまいます。 ただし、最近追加されたBingのGPTでは、ChatGPTよりもはるかに正確な回答が返ってくるように感じます。 画面を見ると回答の根拠となっている詳細情報が出ています。 ここから推測する
プレスリリース グノシーでGPT-3を活用した「動画AI要約記事」開発 2月24日よりβ版を提供決定 ユーザーと価値ある動画コンテンツとのマッチング機会を最適化 株式会社Gunosy（本社：東京都渋谷区、代表取締役社長：竹谷祐哉、以下 Gunosy）は、情報キュレーションアプリ「グノシー」にて、動画コンテンツの要約文を自動生成し記事化する、「動画AI要約記事」の開発を行い、2023年2月24日（金）よりβ版（テスト版）の提供を決定したことをお知らせいたします。 本機能は、グノシーのアプリケーションをインストール後、タブ検索にて「注目動画AI要約（β版）」を選択頂くと、どなたでもご覧頂くことが可能となる予定です。この機会にぜひお試しください。 ■動画AI要約記事概要 動画コンテンツを数行程度の文章に自動要約し記事化いたします。要約文章から元動画を見たい場合は、記事内のリンクから動画へ遷移し閲
こんにちは！逆瀬川 ( https://twitter.com/gyakuse ) です！ 今日は論文をGPT-3.5系API用いて要約してみようと思います。 プロンプトエンジニアリングの参考にもなるかもしれません。 論文全体の自動翻訳はこちら: ※OpenAI GPT-3.5シリーズには code-davinci-002, text-davinci-002, text-davinci-003 が含まれます (https://platform.openai.com/docs/model-index-for-researchers) 概要 主にArXivに投稿されている英語論文を セクション単位 で要約するものです。 文章抽出には今回はGROBIDを用い、要約にはGPT-3.5を使います。 OpenAI APIについて サインアップ https://platform.openai.com/
一応自然言語処理の研究をしている大学院生であるにもかかわらず、最近の生成型言語モデルの進化に全くついていけていないので、キャッチアップとして OpenAI の GPT-3 を使ってみたという記事です。 普通にテキスト生成させるだけではあまり面白みがないので、今回は JCommonsenseQA を使って、GPT-3が常識をどのくらい持っているのかを調べてみます。 JCommonsenseQA とは？ 日本語言語理解ベンチマークJGLUEのうち、常識が必要とされる QA（質問応答）タスクです。例えば以下のような質問が含まれています。 質問: 鉛筆で書いた間違えを何で消すか？ choice0: 火消し choice1: 消しゴム choice2: 暗殺者 choice3: 黒消し choice4: 闇 解答: 1 質問: 年上の女性のきょうだいを敬う言い方は？ choice0: 従兄弟 cho
サービスの概要を説明します。 Completion GPT-3 と言えば Completion を指すことが多く、GPT-3 の代表的なサービスです。Completion は文字通り「完成」を指し、入力するテキストに続くテキストを生成し、文章を完成させることを意味しています。入力テキストのことをプロンプトと呼びますが、プロンプトの書き方次第で様々なアウトプットが期待できるため、多くの自然言語タスクに対応できる能力があります。 自然文からソースコードを生成することもできるようになりつつあります。ソースコード生成は GPT-3 から派生した Codex というモデルを利用します。Codex は記事執筆時点ではまだ Private Beta で正式リリースにはなっておりません。 尚、今回のアド・ジェネレータでは Completion サービスを利用します。 Classification ファイン
GPT-3とは？2020年7月に最先端AIの研究団体であるOpenAIが発表したうテキスト生成のための機械学習モデルです。人間が書いたものと遜色がつかないレベルの文章がかけてすごいとリリース時にニュースになりました GPT-3は過去のものと比較してどれくらいすごいか？単純化して言えば、モデルの性能 = パラメーターの数（生き物の脳細胞の数みたいなイメージが近いかもしれません）です。 前バージョンのGPT-2のパラメーター数は15億程度でしたが、GPT-3は1750億パラメーターという圧倒的な数値です。2022年末時点では、単一のマシン（普通のインフラ）で動かすことができるのは多くとも100億パラメーター程度だと思います。 今回試してみたことGPT-3は一般人にはまず動かすことができない巨大モデルかつ、そもそも公開されていないので、OpenAIが提供している有料のAPI経由で利用することにな
note社は2月8日、AIを活用した創作支援機能「note AIアシスタント（β）」を近日公開すると発表した。書きたい記事のテーマを入力すると、記事の構成案を提示する機能で、個人・法人問わず有料会員に提供する予定。 米OpenAIの自然言語AI「GPT-3」を採用。例えば、AIアシスタントに記事テーマとして「AIを使ってnoteを書く方法」と入力すると、「AIを使ってnoteを掛けることをご存じですか？」「noteではエディタ画面からAIを使えます」「AIで書いてみた文章を紹介します」といった見だしを生成する。 8日から28日にかけて先行体験ユーザーを募集。体験者の反応を踏まえて、今後の開発、拡張、展開方針を検討するとしている。 関連記事 note深津CXOが「ChatGPT」の使い方解説 2月9日にイベント配信 noteが2月9日にAIチャットbot「ChatGPT」の使い方を解説するオ
筆者がネタに苦しんでいるうちに、マイクロソフトがAzureにChatGPTを含むOpenAIのサービスを採用すると発表したり、ChatGPT Professionalのウェイトリストが用意されたりと、世の情勢は活発にうごいていますね（かわさき）。 OpenAI Cookbook OpenAIは「OpenAI Cookbook」と呼ばれるリポジトリをGitHubで公開しています。これは、OpenAIが提供するAPIを使って何らかのタスクを行うためのサンプルコードやガイドを示したものです。今回はそのうちのGPT 3に関連する内容を幾つか紹介しましょう。ただし、OpenAI Cookbookで紹介されているノウハウはChatGPTに特化して書かれているわけではないことには注意してください。
ChatGPTを使った〇〇(例：ChatGPTを使ったアプリ、ChatGPTによる自動生成サービス)は、こうしたワードがQiitaやSNSに飛び交っています。 しかし、実際にChatGPTを使ったものではなく、OpenAIのGPT-3.5系文章生成AIのAPIで作ったアプリやサービスがほぼ100%です。 以前は 「はいはい、ChatGPTじゃなくてOpenAIのAPIでしょ。」 で片付けられましたが、OpenAIが「ChatGPTのAPIを提供予定」とアナウンスしたことでややこしくなっています。 水曜日ということで、「ChatGPTを使ったアプリ(サービス)、ChatGPTじゃない説」 を検証し、注意喚起と命名ルールを提案したいと思います。 ChatGPTのAPIがついに一般公開されました。 Youtube動画にて、ChatGPTのAPIについて解説しています。今後は本物のChatGPTア
概要 こんにちは、maKunugiです。 ChatGPTが世間を席巻しています。会話AIの領域には今まで様々なブレイクスルーがありましたが、遂に実用化の「キャズム」を超えてきた感があります。そして、ChatGPTのAPIの公開が直近と言われていることや、GPT-3.5を初めとする、誰でも利用可能な大規模言語モデルが次々と登場していることから、これらを活用したサービスもこれから数多く生み出されていくはずです。 今回紹介したいのは、ChatGPT相当の言語モデルを利用したチャットボットが作れる、「ノーコードツール」を作った話です。ChatGPT相当の言語モデルとは、GPT-3.5 (text-davinci-003)というChatGPTのベースになっているといわれるOpenAIのモデルです。この言語モデルをセリフのカスタマイズしながら、簡単にチャットボットを作成できるツールの開発に挑戦しました
Redirecting to showrunner.xyz If you are not redirected automatically, follow this link
AI研究団体・OpenAIが発表して話題を呼んだ対話型AI「ChatGPT」は、テキスト自動生成AI・GPT-3の派生形である「GPT-3.5」をファインチューニングした自然言語処理モデルです。チューリッヒ工科大学で機械学習とロボティクスの博士号課程に進んでいるダニエル・デュガス氏が、GPT-3が行っている数学的処理工程について解説しています。 The GPT-3 Architecture, on a Napkin https://dugas.ch/artificial_curiosity/GPT_architecture.html ◆入力／出力 まずGPTの「入力」とは一連のN個の単語のことで、「(入力)トークン」とも呼ばれます。そして、GPTの「出力」とは、入力トークンの最後に配置される可能性が最も高いと推測される単語です。例えば「not all heroes wear(すべてのヒーロ
Amazon Prime 一ヶ月無料 Seq2seqからBERTまでのNLPモデルの歴史をざっとまとめる。 DNNは知ってるけどTransformerってなんだかわからない、って人におすすめです。 Abst. 画像認識にもTransformerが使われることが多く、DeepRLやGPT-3といったNLPモデルも身近になってきています。"Attention is 何?"と言えなくなってきたので勉強しました。 Feedforward NetworksからSeq2Seq, Attention機構からTransformer登場、そしてBERT GPTといった最新モデルまでの流れを広く浅く記述する予定。 またKaggle NLPコンペの上位解法から利用例を探る。 Tl;DR TransformerはSelf-Attentionという機構でデータ内の時系列的特徴を抽出でき、従来のRNNを始めとするNN
著者のAlberto Romero氏はスペイン在住のAI技術批評家で、同氏の鋭い洞察に満ちた記事のいくつかはAINOWでも紹介して来ました。同氏が2022年4月にMediumに投稿した記事『GPT-4は間もなく登場。それについて私たちが知っていること。』では、リリース時期が近付きつつあるGPT-4の特徴が予想されています。 Romero氏は昨年9月にGPT-4の特徴を予想する記事を公開しましたが、自然言語処理研究の最新トレンドを考慮して予想記事を書き改めました。同氏によるとGPT-4は2022年の7月から8月頃にリリースされ、その特徴は以下のような5項目にまとめられます。 自然言語処理の最新研究にもとづいて予想されるGPT-4の特徴 モデルサイズ至上主義からの方向転換：最新の自然言語処理研究によって、モデルサイズは言語モデルの性能を決定する要因のひとつに過ぎないことが判明した。こうした知見
高精度の文章を作れる文章生成AI「GPT-3」を、Microsoftがビジネスアプリ作成ツール「Microsoft Power Apps」に統合することを発表しました。これにより、コーディングの知識を持たないユーザーでも、文章形式でアプリを作成できるようになるとのことです。 From conversation to code: Microsoft introduces its first product features powered by GPT-3 - The AI Blog https://blogs.microsoft.com/ai/from-conversation-to-code-microsoft-introduces-its-first-product-features-powered-by-gpt-3/ Microsoft has built an AI-powered
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く