大体いい結果で返ってくるだろう的な

実際にはアクションの完了には時間がかかるにも関わらず、そのアクションの実行結果をユーザに即座に提示するために通常使用されるものだから

例: いいね機能 ショッピングカート機能など

Rekognition

画像や動画を分析

Personalize

履歴に基づいてレコメンドをする

Textract

画像やPDFからテキストを抽出(テキストが入力でないことに注意)

Comprehend

テキストを分析する（感情や固有名詞を検出）

Polly

テキストを音声に変換する

Kendra

意味とコンテキストを理解して検索するサービス（生成AIとRAGで使われることが多い）

Lex

言語理解・音声認識を行いチャットボットを作成できる

Translate

翻訳サービス

Transcribe

音声をテキストに変換するサービス

Macie

S3の個人情報や機密データを検出して分類・保護するサービス（コンプラ対応に向く）

Fraud Detector

不正行為(詐欺)の検出を自動化するサービス

入力→モデル内→出力

にすると分かりやすいかも

推論エンドポイントの予測結果の信頼性が高くない場合人間のレビューができる機能

Athenaを使ってるらしい

• SageMaker Role Manager
• SageMaker Model Card
• SageMaker Model Dashboard
• SageMaker Model Monitor
• SageMaker Canvas
• SageMaker Data Wrangler
• SageMaker JumpStart
• SageMaker Feature Store
• Augmented AI

リアルタイム推論 - 60秒で終わる処理、データサイズは6MB以下 - サーバーが常時起動のため高価

サーバーレス推論 - 60以内に終わる処理、データサイズは6MB以下 - コールドスタートがあるためレイテンシー要件に当てはまらない可能性あり

非同期推論 - １時間以内に終わる処理、データサイズは1GB以下

バッチ推論 - 数日間の処理時間、データサイズも1GB以上OK

SageMaker Canvas

↓

SageMaker JumpStart

↓

SageMaker その他

SageMakerを実行するための環境

SageMaker Studioを使うことでローカルマシンを使わずにすぐにSageMakerを使うことができる

より発展的なカスタマイズをする用

データサイエンティストや機械学習エンジニアがスタートダッシュを決めるための目的別ツール・テンプレート

専門知識がない人でも利用可能

一定量の推論キャパシティを確保すること

第三者がおすすめのツールを提案している感じ

モデル自体を改変する（ファインチューニング）これはパラメーターの改変をしている

入力と正解を自分好みにチューニングして学習を繰り返す

これって専用GPT作る方法だ！

表面上はテキストを送信してるだけだが、内部で教師データを作成しているから

継続的事前学習

意外と単純

リクエスト送ってLambdaか何かがDBに検索かけて、その結果をGenAIが処理して回答してる感じかな

タスク→ 0 か１か複数か

Zero-Shot, One-Shot, Few-Shot

ROUGE

生成されたテキストと正解テキスト巻の単語やフレーズの一致度を測定

BLEU

機械翻訳の評価指標で、生成された翻訳と正解の翻訳間の一致度を測定

BERTScore

生成されたテキストと正解テキスト間の意味的な類似度を測定

日本語だと大体文字数らしい

AI Starterでは会話のスタイルで厳密や創造的が選べるからこの値を制御してそう

AI Starterでは記述できるけど一般のChatGPTでシステムプロンプトってあったけ？

バリエーションを制御するパラメータが複数ある - temprature - top-k - top-p

1 + 1ができないことで一時期問題になった

（計算機ではないから）

プロンプトで見返してやもう一度考えてと言うのは実はあんま効果ない？

勘違いすることをハルシネーションという

岩盤って意味らしい

回帰問題で汎用的に使用されるメトリクス - MAE (Mean Absolute Error) - 予測値と実際の値の平均絶対誤差。値は0から無限大まで、値が小さいほどモデルの精度が高い。 - 回帰分析で使用され、予測誤差の平均を評価する。 - MSE (Mean Squared Error) - 予測値と実際の値の二乗誤差の平均。値は常に正で、値が小さいほどモデルの精度が高い。 - 回帰分析で使用され、モデルの予測精度を評価する。 - R2 (Coefficient of Determination) - 回帰モデルが従属変数の分散をどれだけ説明できるかを定量化する。値は1から-1の間で、1に近いほどモデルが良好であることを示す。0に近いとモデルがほとんど説明できないことを示す。 - 回帰分析で、モデルがどの程度データの変動を説明できるかを評価する。 - RMSE (Root Mean Squared Error) - 予測値と実際の値の二乗誤差の平方根。値は0から無限大まで、値が小さいほどモデルの精度が高い。 - 回帰分析で、特に大きな誤差や外れ値を評価するために使用される。

その他のメトリクス - Inference Latency - モデルのリアルタイム予測リクエストに対する応答時間を秒単位で測定。 - モデルの推論速度を評価し、特にエンドポイントでのリアルタイム推論において使用される。

1. Recall
2. 実際の正解の中で、どれだけ正しく予測できたかを示す。0から1の値を取り、1が最高。
3. バイナリ分類で、特に見逃し（False Negative）のコストが高い場合に重要。
4. Precision
5. 正しく予測した割合。0から1の値を取り、1が最高。
6. バイナリ分類で、特に誤検知（False Positive）のコストが高い場合に重要。
7. Accuracy
8. 正しく分類された項目の数の比率。0から1の値を取り、1が完全性を示す。
9. 一般的な分類タスクで使用される。
10. Balanced Accuracy
11. 正解率を、真陽性（TP）と真陰性（TN）をそれぞれ正規化した後に計算する。
12. 不均衡データセットでのバイナリ分類に使用される。
13. AUC
14. バイナリ分類モデルの性能を示す指標。ROC曲線の下の面積。1が最高。
15. バイナリ分類で、特に確率的な予測を評価するために使用される。
16. F1
17. PrecisionとRecallの調和平均。0から1の値を取り、1が最高の性能を示す。
18. バイナリ分類で、PrecisionとRecallのバランスを評価する。

多クラス分類用のメトリクス 1. F1 Macro - 各クラスのF1スコアを平均して計算する。0から1の値を取り、1が最高の性能を示す。 - 多クラス分類に使用され、各クラスに対するモデルの全体的な性能を評価する。 2. Precision Macro - 各クラスのPrecisionを計算し、それを平均して算出する。0から1の値を取り、1が最高の構成を示す。 - 多クラス分類で、モデルの全体的なPrecisionを評価する。 3. Recall Macro - 各クラスのRecallを計算し、それを平均して算出する。0から1の値を取り、1が最高のRecallを示す。 - 多クラス分類で、モデルの全体的なRecallを評価する。 4. LogLoss - 予測確率の品質を評価するメトリクス。値は0から無限大までで、0が完全予測を示す。 - バイナリおよび多クラス分類で、確率出力の精度を評価する。

教示なし学習 - IP Insights - IPv4アドレスの使用パターンを学習し、IPv4アドレスとユーザーIDやアカウント番号などのエンティティ巻の関係をとらる - 不正検出や異常な IPアドレスの使用パターンを特定するために使用 - K-Means - データ内の離散的なグループを見つけ、グループ内のメンバーが互いに似ており他のグループとは異なるようにする - クラスタリングに使用。データポイントをk個のグループ分けに使用 - Principal Component Analysis(PCA) - データセット内の次元を削減、データポイントを主成分に投影してできるだけ多くの情報や変動を保持する - 次元削減でデータの可視化やモデルの計算効率の向上に使用 - Random Cut Forest(RCP) - 規則的またはパターン化されたデータから逸脱する異常なデータポイントを検出する - 異常検知に使用され、特に異常なデータ点や外れ値を検出するタスクに適している

• BlazingText
  • Word2vec, テキスト分類アルゴリズムに最適化、大規模なデータセットにスケール可能
  • 単語埋め込み、テキスト分類に使用される
• Latent Dirichlet Allocation(LDA)
  • ドキュメントのセット内のトピックを特定するための教示なしアルゴリズム
  • 文章のトピックモデリングに使用される
  • ニュース記事やレポートのトピック分析に適している
• Neural Topic Model (NTM)
  • ニューラルネットワークを使用してトピックを特定するための教示なし手法
  • トピックモデリングに使用
  • LDAとは異なるニューラルネットワークアプローチに適している
• Object2Vec
  • 高次元オブジェクトの低次元埋め込みを学習し、下流モデルのトレーニング効率を向上させる特徴を生成する多目的アルゴリズム（低次元埋め込みとは: 簡単に言うと高次元のデータを低次元にマッピングすること）
  • 高次元データの埋め込みを学習し、特徴エンジニアリングや類似性分析に使用
• Sequence-to-sequence
  • ニューラル機械翻訳に一般的に使用される教示ありアルゴリズム
  • 機械翻訳や文章作成など
• Text Classification - TensorFlow
  • 事前学習済みモデルを使用した転移学習をサポート、テキスト分類のための教示ありアルゴリズム
  • テキスト分類タスクに使用され転移学習を活用して効率的にモデルを構築できる

AWSの試験のこと

難しいから理屈は覚えなくてもいいかも 一応リンクだけ...

XGBoost、LightGBM、CatBoostはライブラリやフレームワークの名前

クラスタリング（グループ化）

分類・回帰タスク

学習データ→ミニバッチ ミニバッチの中で予測されたデータと正解の誤差を計算 各パラメータの微分に負の符合( - )と学習関数をかける この更新方法を確率的勾配降下法という

並列処理をするからGPUなどのハードウェアに負担がかかるため高性能なマシンが必要

常に監視して検証をすることで過学習や余分な処理をなくす