アルゴリズムの役割は次の4つに分けられ、その組み合わせである。
1.優先順位を決める。グーグル検索、推薦、ルート選択
2.カテゴリーに分ける。
3.関連、つながりを見つける
4.フィルタリング
カーナビのルートを鵜呑みにして崖から転落しそうになった運転手、予算管理ツールの誤った予算削減を守ろうとする役人。アルゴリズムのミスだが、コンピュータの言うことを無視するのは難しい。
店で食品を買っているつもりで、自分のデータを提供してしまう。匿名のネット閲覧履歴でも個人を特定する手掛かりはある。ケンブリッジ・アナリティカ事件。
中国政府の芝麻信用(セサミクレジット)はすべての国民に適用される。
EUの一般データ保護規則でデータブローカーは目的を知らせずに個人データを集められないが安心はできない。
司法制度の有罪判定にアルゴリズムを援用する。計算を元に犯罪を犯すリスクを予想する再犯リスク評価アルゴリズムは決定木を使うものが多い。裁判官の判断はかなりの部分が直観により、人により一致しない。機械の方が論理的かもしれない。
癌の診断アルゴリズムは、病理医が見逃す異常も見逃さない。病理医は見逃すことが多いが誤検知は少ない。アルゴリズムで検知し、病理医が判断すると良いのではないか。
自動運転はほとんどがベイズ推定の応用である。平常時は自動運転で、異常が起きたとき人間が代わるという方法が危険である。エールフランスのエアバスA330、447便の墜落事故は、自動操縦で飛行しているとき異常が起きて自動操縦が解除され、不慣れな若手の操縦士への切り替えで起きた。若手操縦士がパニックを起こして、異常にうまく対応できなかった。自動車の自動運転は運転手を補佐する方が良い。
犯罪が起きる場所を特定するアルゴリズム。地理的プロファイリング。
顔認識アルゴリズムによる人違いで捕らえられた例や飛行機の搭乗拒否された例がある。
アルゴリズムでヒット曲や映画のヒットを予測するのは難しい。1997年オレゴン大学での実験は、バッハが作曲した局、大学の教授がバッハを真似て作った曲、アルゴリズムで作曲した曲を演奏し、どれがバッハの曲か当てる実験をしたが、参加者は正しく回答できなかった。