ニューメキシコの裁判所がMetaの青少年アカウント設計を書き直した

二回に分けて付けられた値段

Metaがこの訴訟で受け取った請求書は二枚ある。後のほうから見ると、8月6日にニューメキシコ州サンタフェのブライアン・ビードシャイド判事がMetaに5億6,700万ドルの支払いを命じた。FacebookとInstagramが青少年のメンタルヘルスに与えた被害を扱う訴訟の、第2段階の判決である。金の使い道まで判決に書かれている。4億2,000万ドルは若年層の治療サービスへ、残りは今後5年かけて啓発、予防、スクリーニングに充てられる（PBS News）。

第1段階は3月に終わった。陪審はMetaが青少年向けの安全性を実際と違う形で示し、ニューメキシコ州の消費者保護法に違反したと評決し、3億7,500万ドルを課した（Al Jazeera）。二つを合わせると9億4,200万ドル。訴えたのは州司法長官ラウル・トレスで、裁判所はMetaが子どものメンタルヘルスを害すると知りながら害し、児童の性的搾取について把握していた内容を隠したと判断した。Metaは「10代をオンラインで守ってきた我々の実績に確信がある」として控訴する方針だ。

判決文の半分は製品要求仕様である

この判決で金額と同じくらい重いのは、併せて下された履行命令のリストだ。並べるとこうなる（KRDO、PBS News）。

13歳未満と推定されるユーザーのアカウント削除と、収集した個人情報の破棄
18歳未満アカウントへのプッシュ通知遮断：学期中の平日午前8時~~午後3時、および毎日午後10時~~午前7時
ニューメキシコの青少年アカウントの初期設定を非公開に
未成年とMetaのAIチャットボットとの恋愛的・性的なやり取りの禁止
友人ネットワークと消費コンテンツを分析するAI年齢推定ツールの導入、2年以内の「13歳未満予測モデル」構築
学校が未成年の疑いのあるアカウントを通報するポータルの開設、年2回の履行報告書の提出

リストを貫く要求は一つだ。本人が入力した生年月日を信じるやり方は、この法廷の基準ではもう年齢確認ではない。判事はプラットフォームが年齢を尋ねるのではなく、割り出すべきだと書いた。行動データで年齢を推定し、推定が13歳未満を指せば認証を求め、認証できなければアカウントを消す。そこまでが一つのループである。

成長装置に法的な原価が付いた

先週のRobloxは自ら推薦基準を変え、その代価として四半期予約売上見通し14~18%減を自分で開示した。今回は方向が逆だ。変えた主体が会社ではなく裁判所で、請求書まで裁判所が書いた。無限スクロール、自動再生、通知、推薦ループといった滞在時間を延ばす装置が未成年ユーザーと出会うときのコストは、もう推計ではなく判決文に書かれた数字である。

この判決一件で終わる流れでもない。オーストラリアは昨年12月から16歳未満のソーシャルメディアアカウント保有を禁止し、米国では他の州や他のプラットフォームを相手にした同じ争点の訴訟が結果を待っている。日本でも青少年のスマホ利用と事業者の責務をめぐる議論は続いており、ソーシャルやコミュニティを作るチームにとってニューメキシコの判決文は他人の裁判記録ではなく、次の訴訟と次の立法が参照する基準線の草稿だ。

記録の使われ方も見ておきたい。この裁判でMetaを最も痛めたのは外部の告発ではなく、会社自身が作った内部リサーチだった。リスクを把握した文書があるのに設計がそのままだったという組み合わせが、「知りながら害した」という判断の材料になった。調査をやめろという意味ではない。調査結果と設計変更の間隔が狭くてはじめて、文書は盾になる。

今確認すること

未成年が入ってくる可能性のあるサービスなら、三つ確認しておこう。一つ目、自サービスの未成年ユーザー比率を推定値でも持っているか。裁判所がMetaに求めたのはまさにこの推定能力で、「分からない」という答えは防御ではなく過失の側に寄り始めている。二つ目、通知、連続ログイン報酬、自動再生、推薦のうち未成年に届く装置の一覧と、それぞれを年齢帯別に切れるスイッチがあるか。ニューメキシコのアカウントだけに適用される通知遮断時間帯のように、地域単位で挙動を変える要求が実際の判決として出た。三つ目、保護機能を入れた、あるいは外した判断の根拠を残しているか。この記録の有無が、同じ状況で過失と故意を分ける。

控訴で金額は変わるかもしれない。リストはすでに公開文書として残り、次の訴訟の原告が最初に読むはずだ。