「やぼったいのは…。私たちはデータで監視してアルゴリズムで統制する」

［ワーカーズ・イシュー(1)］ 第4次産業、革命的に!!! 労働しろ???

［出処:キム・ヨンウク］

機械門番

新技術は色々な経路を通じて私たちの日常に食い込む。 下半期の採用シーズンになった最近、注目されるAI面接も一つの経路であろう。 あるブログにはAI面接に備えた化粧法、表情管理法、言語表現指針など流用したチップを紹介しているからだ。

開発業者が出した面接プログラムを例としてAI面接過程に目を通すと次のようだ。 まずマイクがついたヘッドセットを着用する。 面接プログラムがインストールされたPCに名前と受験番号を入力した後、 顔・声認識過程を経るとAI面接開始だ。 面接はAIの質問に答える方式だが、 自己紹介と自分の長短所に対する質問から状況対処能力を把握するための突発質問や職務力量を評価する質問、 イメージ選択や認知ゲームまで多様だ。 面接プログラムの説明によれば、AI面接で活用される質問個数は5万を越えるという。 珍しいのは面接の間、人工知能は支援者の顔に数十のポイントを定めて、視覚分析、音声分析、言語分析、生体分析まで可能だという。 結果もすぐ確認できる。 志願者の集中力、記憶力、指向、語彙特徴などが数値化、視覚化される。

どう評価するにしても、人工知能は労働世界の地図をひっくり返すゲームチェンジャーと言われる。 もちろん面接に人工知能を活用する企業が多いわけではない。 採用過程の補助水準に止まっているが、人工知能の面接官が増えることは容易に予想できる。 AI面接を導入すると明らかにした企業は、これが時間と費用を削減できるだけでなく、 公平な機会の提供、客観的で公正で透明な方法だと説明している。 志願者の音声だけでなく、表情や脳波まで把握して、面接内容を最適に判断するという、 これらの機械門番の評価はプライバシーの侵害という批判から自由になれない。

事実、AI面接は導入の初期だけに、プライバシー侵害などの問題を具体的に発見することは難しい。 「大量殺傷数学武器」の著者、キャシー・オニールはこうしたビッグデータアルゴリズム問題を前面に提起する。 企業は客観性、公正性、透明性をあげてAI面接を正当化しているが、 果たしてそのアルゴリズムは公正なのか? 透明なのか? 彼の結論は、アルゴリズムが会社の目標と理念を反映し、さらに社会的偏見が投影されたデータを基礎として作られるので、 不平等を深めて確証バイアスを強化すると一喝する。 彼は人間から差別する方法を学んだ人工知能は、人間よりさらに強く、 あきれる程効率的に、同時に差別的に審査すると見る。

キャシー・オニールは米国で信用評価で活用されるe点数を一例にあげて、 データ基盤のアルゴリズムモデルが人種差別や性差別をコード化し、不平等を拡大すると指摘する。 信用評価点数は主に財務情報を集合して作るが、 財務情報の他に人種、学歴、出身地、はなはだしくは犯罪記録、言語使用能力などあらゆるデータを収集して信用度を予測する。 e点数を活用して短期の小額融資を提供するある会社は、 融資申請者1人当り最大1万のデータを収集分析して危険度を測定する。 オンラインで融資申込書を作成する時、正書法に合わせて書いているか、 句読点はきちんと打っているか、 申込書を読むのにどれくらい時間がかかるのか、 利用約款をしっかり確認するのかなどもチェックされる。 これは「規則を遵守する人」が信用度が高いと判断するのだが、 そのために教育水準が低い低所得層や移民者は高い利率の融資を受けることになった。 キャシー・オニールはこうした過程が人種や貧困に対する差別だが、 アルゴリズムに巧妙に隠されてあらわれないだけだと批判する。 e点数は融資や保険だけでなく、仕事を見つけてアパートを借りたり、 その上デート・結婚相手を紹介する業者にまで評価定規に拡張されており、 これはそのまま社会のあちこちにビッグデータアルゴリズムの差別的判断が日常に深々と食い込んだことを意味する。 費用削減と公正性の論理を前面に出した新技術は、 志願者の言語、声、表情、行動、 さらに心臓の拍動、脈博、脳波などの生体情報抽出を正当化し、 差別的判断の危険性を隠している形だ。

リアルタイムトラッキング

痴呆患者の行方不明事故が毎年1万件を越える日本で、 身元確認先端サービスとして最近注目されているのは爪に付ける 「身元判別QRステッカー」だ。 1cmの大きさのQRコードステッカーは、ネイルステッカーとあまり違わない。 QRコードをからだに付けるのでプライバシー侵害を指摘する声が小さくないが、 扶養家族の反応が良く、さまざまな地方自治体が導入を考慮しているという。

記事を読んで「電子足輪がなんだ」という反感を感じた筆者も、 先日小学校に入学したばかりの子供の安全事故を心配して 「位置お知らせ」をしばらく悩んだ。 放課後、この塾、あの塾と行き来する娘に、もしやの安全事故に備えて共稼ぎだった私ができる最低限の対策はでないかと思った。

一日経てばあふれ出る新技術商品がメディアや広告を塗りたくる。 だから痴呆老人や子供、伴侶動物を含んで、貴重品の位置をリアルタイムで把握するという製品がそれほど特別に思われるニュースではない。 海外旅行に行く飛行機の中で撮った写真記録が海上に表記されるという話もそんなに不思議な経験ではない。 各種配達のリアルタイムトラッキングの内容も、今はニュースの種でもなくなった。 消費者の便宜だけでなく患者・子供・伴侶動物・貴重品保護、健康管理、犯罪予防、趣味や娯楽、 さらに国民便益などのイデオロギーはプライバシー侵害の危険が高いが、 新技術商品を正当化していつのまにか「なくてはいけない」何かにしている。

業務効率を前面に出した新技術装置も労働の過程に急速に導入されている。 業務用アプリがその事例だ。 業務用アプリ導入の風は、企業、政府を問わず激しい。 代表的な形態はMDM(Mobile Device Management)、つまりモバイル機器管理システムだ。 これは会社のIT部署が職員のスマート機器を遠隔で管理する方式で個人プライバシーを過度に侵害するという問題を抱いている。 だが業務用アプリの形態も新技術の速度ほどに早く変革する。

その変化はプライバシー侵害、保安侵害などに対する問題提起の速度よりさらに早いと見られるようだ。 MDMの次のバージョンとしてモバイルアプリ管理(MAM)が登場し、 UEM、EMM、BYOD、BYOT、BYOPなどの業務便宜、保安強化を打ち出した新技術装置は アップグレード中だ。 補完された保安技術でプライバシー侵害を遮断できるとまで説明する。

業務用アプリが問題として浮き彫りにされた事例は、2014年のKTの事例を挙げられる。 KT使用者側の業務用アプリ設置指示を職員のイ某氏が拒否したことで触発された事件だ。 KTは無線通信の品質を測定するDroid基盤アプリを作り、設置方法などに対する教育を実施した後、 業務支援団の職員の一部に個人のスマートフォンにアプリを設置しろと指示した。 該当アプリは位置情報はもちろん、 個人のスマートフォンのカメラ、連絡先、個人情報(カレンダー)、 保存所、携帯メール、アカウント情報など12項目にアクセスする権限を持っていた。

業務支援チームで働いていたイ氏は、アプリの設置対象に含まれ個人情報侵害が憂慮されるという理由でアプリの設置を拒否し、 業務用端末機を別に支給するか他の部署に配分してくれと要請した。 しかしKTは人事委員会を開き、イ氏が誠実義務と組織内秩序尊重義務に違反したとし、 停職1か月の懲戒をし、停職期間が終わると他部署に転勤を発令した。 これに対しイ氏はKTの業務指示が個人情報保護法に違反しており、 アプリの設置拒否を懲戒理由とすることはできないとして訴訟を提起し、 裁判所はイ氏の主張を認めた。

広く知られている配達アプリやGPSトラッカーが最近、プラットホーム労働者に適用される新技術装置だとすれば、 業務用アプリは配達アプリのオフィスバージョンだ。 二つの形態とも労働を脱空間化すると同時に、 位置追跡をはじめ、業務の全過程をリアルタイムでデータ化することができる。 注意すべき事項はデータ化そのものがデジタルモバイル時代に「適した」管理・監視の様式だという点だ。 業務過程のリアルタイムのデータ化は、監視の個人化、日常化、さらに知能化と連結する。

以前の監視は作業場を前提として集団的に観察した後、事後的に評価する方式だった。 パノプティコン(panopticon)は文字通り、特定の空間全体を目で観察する装置をいう。 これと比べると、業務用アプリは特定の空間内外を問わず個別の労働者に直接使われる方式で、 労働者の従追跡はもちろんリアルタイムで把握可能だ。 作業場にCCTVを設置して録画して、問題発生のa、b、c、dを事後的に判断、評価するのと比べ、 アプリで抽出されたデータは個別労働者の移動動線、決裁-成果報告など、業務の全過程をリアルタイムでマップ化(地図化)することができる。 いちいち観察することなく作業場内外で労働者の行動一つ一つまでデータ化できる、 換言すれば労働者の品行一つ一つを表面化できる新しい形式のパノプティコン、 一種のデータ監視(dataveillance)だ。 技術哲学者のベルナール・スティグラーはこれをアルゴリズム統治性とも言う。 核心はデータ化が既存の時空間中心の訓育に代わり、労働者の行動ひとつひとつを再定義できる技術的条件を備えたということだ。

アンドリュー・ユーアは初期産業化時期の労働者の「怠ける習慣」、「放蕩」、「無規律」等を悩みの種と思い、 これを除去する革新的な方法として機械の自動ミュール(self-acting mule)を哲人と称した。 今この時代になってやっと、労働者の無規律を完全に除去しようとしたユーアの夢が完成される段階に達したと言えるのではないか。 配達アプリ広告、無人店舗広告、AI面接広告、ドローン広告などの新技術を広報する広告を見ると、 多くのところでユーアの夢をのぞき見ることができる。 単に費用削減次元に留まらず、資本が悩みの種と考えてきたことを除去できる革新手段として動員している。

「アルゴリズムの奴隷」

言語は照らすことができ、のぞいて見ることもできるレンズだという。 クロープニング(clopening=closing+opening)は新技術が食い込んだサービス業界の変化した風景をのぞき見る新造語だ。 クロープニングは従業員が夜遅くまで働いて店の扉を閉めて退勤した後、 数時間後、朝にまた出勤して店の扉をあける状況を示す。 クロープニングに関連する隘路事項として睡眠不足の問題を上げられる。 クロープニングを担当している職員の60％以上が7時間もない休みの時間に苦しむという応答は、 最適の人員を算出するアルゴリズムがどのように労働の苦情を量産するのかを推量させる。 通勤距離が遠い場合、まったく店舗で眠らなければならない場合が発生し、 最低の休息権さえも保障されないという問題が報告される。

このような新造語は、スターバックスが人員算出を最適化するためにコロノスのようなスケジューリングプログラムを活用してから誕生した。 交代制を組む前の方式では、物量や需要、ピークタイム、顧客の訪問パターン、人員数、 それぞれの勤務の一定程度の要素を考慮しただろう。 またこれらの要素を分析して予測した人員を現場に投入するまでは、ある程度の時間的な間隔が発生するほかはなかった。 これらの要素をいくらよく混ぜ合わせても、人員の過小算出や過剰投入によるサービスの質の低下や過多費用の問題を避けることは難しかった。 しかしスケジューリングプログラムは営業パターン、天気、歩行パターン、交通量、ツイッター量、リアルタイム検索語、顧客パターン、顧客評価などの さまざまな要素とビッグデータを投入して交代制人員を算出する。 例えば、微小粒子状物質の予報をリアルタイムで反映して人員を算出するのだ。 リアルタイム検索やツイッター量もプログラムが需要変化を予測する原料として使われる。 ツイッター量により、昨年セールの時よりも顧客がどれくらい増減するかを予測することもできる。

資本はビッグデータのアルゴリズムで、人員を過小または過剰に算出するリスクをゼロ化して労働費用を最適化する「適した」技術様式を確保したと話せる。 もちろんここで「最適」の人員投入はビッグデータ・アルゴリズムによりもので、 現場の労働者たちの集合的な利害と要求を反映したものではない。 また要素のインプットがなぜそのようなアウトプットとして出てきたのか、 そのアルゴリズムを労働者は知らない。 アルゴリズムが算出した「適正」労働の苦痛は、全て労働者に転嫁される。 あるスターバックスの労働者は、スターバックスが「適正」を装ったまま最低限の交代人員(skeleton shift)を使うので、 いつも人員不足に苦しむと訴える。 通知も一週間前、そればかりか一日前のことも茶飯事だ。 業務も時間単位に分けて割り当てる。 それでこのようなスケジューリングプログラムの前にオンコール(on call)という表現が付けて使われる。

注目すべき点は、緩い時間を清潔に除去して不要な人員を減らし、 必要によりリアルタイムで調整するこうした方式が、 労働の不安定性を極端にするということだ。 労働者のストレスも並大抵ではない。 生活の不安定性も高まった。 労働者たちはスケジュールの従属性も高まったという。 デービッド・ワイルが言う「粉々に割れた労働」の現在のバージョンであるわけだ。 こうした問題に直面した労働者を、キャシー・オニールは「アルゴリズムの奴隷」と一喝する。

このような方式のオンコールスケジューリングプログラム(on call scheduling program)は、スターバックスをはじめとしてマクドナルド、ウォルマート、UPS、DHLなどで 急速に拡散している。 キャシー・オニールは時間、費用、在庫を削減するための適正な生産方式が特定業種に制限されず、 ビッグデータアルゴリズムを媒介としてサービス業種をはじめとするさまざまな部門に拡大していることを指摘し、 「JIT(just-intime)経済の拡張」と診断する。 21世紀の柔軟化話法はビッグデータ、人工知能、アプリのような新技術の配置により、その目的を達成していくようだ。［ワーカーズ47号］

原文(ワーカーズ/チャムセサン)

翻訳/文責:安田(ゆ)
著作物の利用は、原著作物の規定により情報共有ライセンスバージョン2:営利利用不可（ 仮訳 ）に従います。