配信ガイド
TikTok LIVEの警告はどう出る?配信PCのAIと違反判定の関係を調べた
最初に押さえたいこと
Mac版LIVE Studioは、配信PC内でもAI処理を動かしていました。ただし、確認できた処理や情報送信が実際の警告や違反判定にどうつながるかは、今回の観測だけでは特定できていません。
TikTok LIVEで急に警告が出たり、ギフトが制限されたりしたとき、映像や音声がどこでどう判定されているのかは気になりますね。運営環境のMac版LIVE Studioを調べたところ、配信PC内でAIが動き、ソースや音量などの情報を送信する構成を確認できました。この記事では、その観測結果をもとに警告や違反判定との関係を整理します。判定の全経路や個別の制限原因を解明したものではありません。
警告の仕組みを調べると、配信PC内でもAI処理が動いていた
調査では、PC内での解析、アプリからの情報送信、通知の記録を分けて確認しました。対象は、2026年11月7日から8日にかけて観測したMac版LIVE Studio 1.38.0、macOS 26.6.2の単一環境です。まず確認できたのは、配信PC上でAI処理が動いている事実でした。
その処理を担っていたのが、LIVE Studioのローカル子プロセスであるAISDK_Serverです。アプリとはIPCというプロセス間通信で連携し、音声区間を検出するVADや、機械学習モデルのXGBoostによる推論を実行していました。初期化は配信開始とほぼ同時に行われ、AISDK自身のログには1.38.1と記録されていました。全環境での起動条件やログに出ない処理は未確認です。名前にServerと付いていても、外部のAIサーバーとは判断できません。

オフにしても、サーバー側のチェックは続く
LIVE設定の「LIVE情報」タブでは、「詳細設定」に「デバイス上のコンプライアンス確認」があります。画面には、コミュニティガイドラインに準拠するため、LIVE Studioが配信内容をデバイス上でチェックすることを許可する設定だと説明されています。掲載画像ではオンです。
画面の説明文には、「この設定をオフにした場合も、TikTokは常にサーバー側でチェックを行います」と明記されています。手元の端末で確認を無効化しても、サーバー側での審査まで止まるわけではありません。
この設定がAISDK_Serverのどの処理に対応しているのかは特定できていません。なお、後述するプロセス停止の検証は、このスイッチをオフにした実験ではありません。設定を変更することで全モデルの動作や情報送信が停止する、あるいは警告や制限を回避できるといった結果は確認していません。

ソース情報の送信と複製関連モデルのスコアを確認
ソース情報のAPI送信には、Safari、YouTube、表示状態などの値が含まれていました。あるリクエストのproportionは約0.51で、Safariを非表示にした後は0でした。これはアプリの送信値であり、独立して測定した画面占有率ではありません。別項目のdisplay_proportionや、複数ソースの重なりとも区別が必要です。
別の関連APIには、マイク音量、入力状態、VADや操作に関する信号が約30秒ごとに送られていました。この送信はYouTubeのソースを追加する前から始まっています。操作収集の失敗時には代替値も使われるため、keyboard_signalが1であることは、入力文字の収集を示しません。取得できたのはLIVE Studio側の通信であり、AISDK自身が直接外へ送った証拠ではありません。
ローカルではxgboost_piracy_model_v5.jsonという265特徴量のモデルが約10分間隔で実行され、入力を前後に分けたheadとtailの2出力を確認しました。23時42分は0.031900と0.352283、次の23時52分は0.353801と0.106537でした。その後の3回は両方とも約0.056です。別のcohostモデルの出力は除外しています。Safariの表示やカメラ・音声も変化しており、YouTubeだけがスコアを変えたと切り分けた結果ではありません。ローカル閾値は0.5でしたが、規制確率やTikTok全体の制限基準に換算する根拠はありません。
停止中も情報送信は続き、再起動後には推論エラーが出た
約5分の停止実験では、AISDKの不在を確認した後も関連APIへの送信が9件あり、HTTP 200応答が返っていました。vad_signalは途中で1から0へ変化しましたが、音量値を含む送信は続きました。配信画面では30fpsと送信継続を確認した一方、視聴者側の音声と長時間の安定性は未確認です。
単発の停止では約1.3秒後にプロセスが自動再起動しました。しかし、次の推論ではアプリ側に残ったモデルIDを見つけられず、エラーになっていました。プロセスの復活と推論の復旧は別です。欠測はスコア0ではありません。新たな制限通知は観測しませんでしたが、停止によって制限を防げたという比較結果でもありません。
設定一覧を17種類に整理:画像・ゲーム・予測
取得した20件の登録設定を、同じ種類の端末別・ABテスト設定でまとめると17種類です。設定に存在することと、その配信で動いていたことは分けて読む必要があります。画像・ゲーム関連には、ゲーム推定のguess_model、ゲーム区間推定のgap_time_model、MLBBのヒーロー認識があります。
OCRは、文字のある領域を探すocr_detectionと、その文字を読むocr_recognitionに分かれています。端末別のOCR検出設定は、入力幅が960または384になるなどの差があるため、同じ種類の中にまとめました。
表形式の情報から予測する設定には、複製関連のpiracy_predictionと共同配信相手を予測するcohost_friend_predictionがあります。後者はABテスト向けの特徴量設定が分かれていました。これらのXGBoost推論は今回の実行ログでも確認しています。
音声・収集・VLMなどの設定もある
音声関連には、音声区間を検出するVAD、発言を文字にするzipformerASR、言語を識別するaudio_lidがあります。実行ログで確認したLIDの結果は、日本語であることと信頼度でした。音声認識の設定にhotword関連項目があっても、性的単語を指定した証拠にはなりません。
ほかにゲーム音声のaudio_fingerprintと、音声感情推定のaudio_emotionがあります。取得したフィンガープリント設定はLoL・MLBB・VALORANT向けで、YouTubeのコンテンツ識別と同一の仕組みだとは確認していません。
残る設定は、メディア透明度収集のmedia_alpha_collect、ソース透明度収集のsource_alpha_value_collect、ジェスチャー認識、顔検出、画像と言語を扱うVLMです。透明度収集には外部モデルを持たない項目もあり、17種類をすべて独立した学習モデルや同時稼働プロセスとして数えることはできません。
YellowとVLMが性的判定をしていた証拠は見つからず
アプリにはYellowという画像分類器のコードがありました。しかし、今回の設定や調べた起動・推論ログでは、その稼働を示す記録を見つけていません。名称だけで性的コンテンツ用とは判断できず、記録がないことも未記録の処理まで存在しない証明にはなりません。
VLMにはQwen3VL-2Bの設定がありましたが、取得時はdefaultOnがfalse、instanceもnullでした。14件のゲーム別プロンプトと14件の出力文法は、勝利やキルなどのハイライトを評価する内容で、性的な露出を判定する指示は見つかりませんでした。これは今回取得した設定とログについての結果であり、VLM一般の能力を評価したものではありません。
軽い処理で対象を絞り、必要な部分を別のモデルや審査へ送る構成は仮説として考えられます。ただし、VADは音声区間、LIDは言語の識別です。今回の出力は文字起こしや性的単語の検出結果ではなく、性的判定へ至る経路は特定できていません。TikTokの公式説明には性的・示唆的コンテンツへの機械学習利用がありますが、Mac版アプリの処理場所や担当モデルを示す資料ではありません。
警告や違反判定につながる経路は、まだ特定できていない
過去の配信では、運営者がギフト制限の時刻と確認した1分間に、WebcastPerceptionMessageが4件、WebcastAccessRecallMessageが1件あった記録を見つけました。ただし、残っていたのは件数で、通知本文や判定理由ではありません。4件の通知を4件の違反と数えたり、性的な動作が原因だと断定したりすることはできません。
今回確認できたローカル推論、情報送信、制限前後の通知件数の記録だけでは、PC内のAIが違反と決めて警告を出したとは判断できません。HTTP 200はサーバーが応答を返した事実であり、その先の審査結果を示すものではないためです。TikTokはモデレーションについて公式に報告していますが、今回のMacの内部構成を説明するものではありません。警告との関係を調べるには、各記録の時刻と実際の通知本文や判定理由を照合する必要があります。
出典・確認した資料
出典は各節と記事末尾に掲載しています。
- Fire Lit AI運営:AISDK実機調査の匿名化した観測記録
2026年11月7日〜8日、単一Macで取得したログ・設定・通信の要約。生ログではなく、モデルの設定と実稼働を区別しています。
- TikTok:Strengthening enforcement of sexually suggestive content
2022年12月30日公開。性的・示唆的コンテンツへの機械学習利用の一般説明。Mac版の内部構成の根拠ではありません。2026年11月8日確認。
- TikTok:Seventh DSA transparency report on content moderation in Europe
2026年8月31日公開。2026年上半期・欧州の報告。LIVEを含む複数種別を対象とし、日本のLIVE専用の比率ではありません。2026年11月8日確認。
- Mac版LIVE Studio:デバイス上のコンプライアンス確認の設定画面
2026年11月8日確認。設定はオン。オフでもサーバー側のチェックが続くという画面上の説明を確認。切り替え後の動作検証はしていません。