【AWS】生成AI活用に向けたユースケース体験サイトのセミナーに参加してきました
はじめに
みなさま、こんにちは。
クラウドソリューション第2グループ入社2年目のkugishimakです。
この記事は、AWSの生成AI活用に向けたユースケース体験サイトのセミナーに参加してきましたのでその備忘録となります。
目次
生成AIとは?
そもそも生成AIとは。
膨大なデータを基にした人工知能の一種で、従来のAI/MLモデルとは異なり、
追加の学習を行わずともさまざまなタスクを高精度でこなす「基盤モデル」です。
主なモデルは以下のようなものがあります。
- テキスト生成モデル
入力されたテキストから別のテキストを生成します。 - 画像生成モデル
テキストや画像を入力して、新しい画像を生成します。 - マルチモーダルモデル
テキストと画像を組み合わせて出力を生成することも可能です。
生成AIの具体的なユースケース
生成AIはすでに様々な業務に活用されています。一例として下記のようなものがあります。
- データ読み取り
大量のデータを素早く読み取り、欲しい情報のみを抽出することができます。 - 対応スキルの底上げ
コールセンターなどでAIを活用し、一次対応を自動化することで効率を向上させることができます。 - 営業支援
AIが営業文書の要約を作成することで、時間と労力を削減します。 - コンテンツ審査
作成された文書が規定に合っているかどうかをAIがチェックします。 - 検索性向上
検索システムの効率を向上させ、より的確な情報提供が可能になります。 - 商材の作成
商品の概要やイメージ画像を用いて商品のイメージを具現化することが可能です。
AWSの生成AIサービス「Amazon Bedrock」
AWSにはそのような生成AIを簡単に利用できるサービスがあるとしてAmazon Bedrockが紹介されました。
1つのAPIを介して40種類以上のさまざまな基盤モデルを選択できます。
また、基盤モデルは非常に大きいモデルであるため本来は大きなサーバを用意する必要があるのですが、
そのようなサーバの準備は不要です。つまりインスタンスの準備はいりません。
Bedrockには以下のような特徴もあります。
- ガードレール
不適切な入力を拒否し、セキュリティが第一で最優先されます。 - データセキュリティ
入力された情報や生成された情報は学習に利用されず、第三者にも提供されません。また、すべてのデータは暗号化されて転送・保存されます。
生成AI系のサービスを使用する際、入力したデータや生成されたデータは学習に使用されることがほとんどである印象ですが、それがないとは驚きです。
Amazon Bedrockの活用例
Amazon Bedrockの活用例として検索拡張生成(RAG)としての使用がされています。
回答の範囲を企業のドキュメント用のデータのみに限定することでモデルの間違った発言を軽減できるほか、
回答時に検索システムのどのデータから取得したのかをソース情報として付随させることで回答の透明性をあげることが可能だそうです。
ただこの場合、検索システムの構築について下記のような課題があります。
- データが散財している
- 実装が複雑である
- 運用に専門的なスキルが必要
これらの課題についても解決できるAWSサービスとして「Amazon Kendra」が紹介されていました。
Kendraは、さまざまなデータソースを前処理なしで取り込むことができ、素早く導入・検証ができるというものです。
上記の図に活用すると以下のようになります。
実際にこちらのAmazon Bedrock+Amazon Kendraを使用した事例として下記の2つが紹介されていました。
- FAX受信からニュース原稿/動画までの作成フローを自動化、ニュース配信数の大幅増を実現
- 課題:
- ニュース元の紙アーカイブの手間と検索性の悪さもあり、原稿作成や動画作成に大幅な工数がかかっている。
- ソリューション:
- ニュース元のFAXをOCR文字認識後にDBへ保存することで管理画面から閲覧・検索を可能にしつつ、
Bedrockでニュース原稿を自動作成する。
またニュース動画の読み上げにAmazon Pollyを、動画生成にLambdaを使用し自動化。
- ニュース元のFAXをOCR文字認識後にDBへ保存することで管理画面から閲覧・検索を可能にしつつ、
- 効果:
- ニュース元の検索性向上と自動アーカイブ化。
原稿作成や動画作成の工数の大幅な短縮。
原稿は記者2年目に相当する十分な文章力。
- ニュース元の検索性向上と自動アーカイブ化。
- 課題:
- 法律関連のオウンドメディアの記事執筆支援に生成AIとRAGを活用し、記事のリライト業務を70%削減
- 課題:
- 対応時間の短縮と機密情報を扱っているため、情報漏洩防止は必須でAIツールを使用したい。
- ソリューション:
- Amazon Bedrock+Amazon Kendraを使ったRAG環境で記事のリライト業務を生成AIがサポート。
例えば、Webメディア記事のドラフトの作成や、マーケターの質問に回答するチャットボットとして利用。
- Amazon Bedrock+Amazon Kendraを使ったRAG環境で記事のリライト業務を生成AIがサポート。
- 効果:
- 記事のリライト業務にかける時間を70%削減。
2日間で社内向けに生成AIツールをリリースでき、
生成AIのシャドーIT利用を防止している。
- 記事のリライト業務にかける時間を70%削減。
- 課題:
生成AIユースケース体験サイト「GenU」
AWSで構築を行うユースケース体験サイトとして、生成AIを体験できるプラットフォーム「GenU」が紹介されていました。
GenUの構築は、CDKやCloudFormationを使用して行うことが可能で、AWSから構築支援パッケージも用意されています。
デモ動画で操作感を紹介されていたのですが、数回のクリックで様々な基盤モデルを使用することでき、構築さえできればどのような方でも簡単に使えそうな印象でした。
また、CDKでの構築時のみになりますが下記の情報を確認できるモニタリング用のダッシュボード機能も搭載されています。
- トークン消費数
- 利用数
- ユーザーログインし工数
- プロンプトログ
ここらへんは実際に構築してみて使用感を試してみたいところですね。
構築する際は下記を参考にしてみると良いかと思います。
GitHub – aws-samples/generative-ai-use-cases-jp
おわりに
生成AIは、業務効率化やコスト削減に大きく貢献する技術として非常に注目されています。
セミナーの中で、生成AIをうまく活用するためには下記の項目のサイクルをたくさん回すことが重要だと言われていました。
- 使用頻度が高くより効果的なユースケースを選ぶ
- 既存のサービスを利用し、小さく多く実験する
- データやプロンプトを改善しフェードバックをおこなう
今回のセミナーで紹介されたサービスについて実際に使用してまたブログに執筆できればとおもいます。
それではまた👋