yagibrary

あだ名のやぎと図書館のlibraryを組み合わせてyagibraryです。本から学んだことをみなさんに紹介します。

【論文和訳】Tyna Eloundou, Sam Manning, Pamela Mishkin, Daniel Rock【GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models】1 Introduction3

arxiv.org

目次

1 導入

その結果、ヒトとGPT-4の両方の情報を総合すると、ほとんどの職業でLLMにある程度晒されていることがわかったが、仕事の種類によって晒されるレベルは様々であることがわかった。賃金の高い職業は一般に露出度が高く、機械学習全体の露出度に関する同様の評価とは逆の結果となった(Brynjolfsson et al, 2023)。また、O*NETの技能評価指標を用いたスキルセットとの回帰分析では、科学や批判的思考力に大きく依存する職務はLLMへの露出と負の相関を示し、プログラミングやライティングスキルはLLMへの露出と正の相関を示すことがわかった。Autor et al. (2022a)に倣って、「ジョブゾーン」別に参入障壁を検証したところ、LLMsへの職業的エクスポージャーは、仕事の準備の難易度に応じて弱く増加することがわかった。つまり、仕事への参入障壁が高い(低い)労働者は、LLMへの露出が多い(少ない)傾向にある。


さらに、私たちの測定結果を、経済における自動化エクスポージャーの分布を記録した過去の取り組みと比較したところ、ほぼ一貫した結果が得られた。他のテクノロジーエクスポージャーは、統計的に有意な相関を示し、マニュアル・ルーティンネスとロボティクス・エクスポージャーは負の相関を示したが、私たちが調査したほとんどのテクノロジーエクスポージャーは、私たちが推奨するエクスポージャーと相関があった。これらの先行する取り組み(Acemoglu and Autor, 2011a; Frey and Osborne, 2017; Brynjolfsson et al, 2018; Felten et al, 2018; Webb, 2020; Brynjolfsson et al, 2023)により、賃金コントロールと合わせて説明された分散は60~72%であり、我々のAI露出測定における変動の28~40%が先行技術露出測定で説明されないままであることを示している。


産業別のエクスポージャーを分析したところ、情報処理産業(4桁のNAICS)は高いエクスポージャーを示し、製造業、農業、鉱業は低いエクスポージャーを示していることがわかった。過去10年間の生産性の伸びとGPTの全体的な被曝量との関連は弱く、LLMによる将来の生産性向上がコストダウンの可能性を悪化させないという楽観的なケースを示唆している (Baumol, 2012)。


我々の分析によると、GPT-4のようなLLMの影響は、広範囲に及ぶ可能性が高い。LLMは時代とともに一貫して能力を向上させてきたが、その経済効果の拡大は、今日、新しい能力の開発を止めたとしても、持続し、増加することが予想される。また、補完的な技術の開発を考慮すると、LLMの潜在的な影響力は大きく拡大することがわかった。これらの特徴を総合すると、Generative Pre-trained Transformers(GPT)は汎用的な技術(GPT)であることを意味する。(Bresnahan and Trajtenberg, 1995; Lipsey et al., 2005)。(Goldfarb et al., 2023)は、広いカテゴリーとしての機械学習は、汎用的な技術である可能性が高いと論じている。機械学習ソフトウェアの一部でも、独立して汎用技術としての基準を満たすことから、私たちのエビデンスは、より広い影響を裏付けるものである。本論文の主な貢献は、LLMの影響力の測定法を提供することと、LLMを適用してこのような測定法を効率的かつ大規模に開発するユースケースを実証することである。さらに、LLMの汎用的な可能性を紹介する。「GPTはGPTである」とすれば、LLMの開発と応用の最終的な軌跡は、政策立案者が予測し規制することが困難であるかもしれない。他の汎用技術と同様に、これらのアルゴリズムの可能性の多くは、新しいタイプの仕事の創造を含む、経済的に価値のある幅広いユースケースに現れるだろう(Acemoglu and Restrepo, 2018; Autor et al, 2022a)。私たちの研究は、現在技術的に実現可能なことを測定するものだが、必然的に、時間とともに進化するLLMのインパクトの可能性を見逃してしまうことになる。


本論文は以下のような構成になっている。第2節では関連する先行研究をレビューし,第3節では方法とデータ収集について述べ,第4節では要約統計と結果を示し,第5節では我々の測定と先行研究の関連付けを行い,第6節では結果を探求し,第7節では結論を述べている.