Who Gets to Contest Science? Generative AI and the Democratization of Scientific Scrutiny
Abstract
AbstractGenerative AI is increasingly discussed as a technology that may democratize scientific production bylowering barriers to writing, coding, and analysis. Less attention has been paid to a parallel possibility: thatit may lower barriers to scrutinizing scientific claims outside established evaluative roles. This articledevelops a conceptual account of that shift. It distinguishes access to scientific materials from the capabilityto interrogate them and argues that generative AI may contribute to a dual democratization of scientificproduction and scientific scrutiny. By assisting with statistical interpretation, code inspection, literaturecomparison, citation checking, and methodological reasoning, AI may distribute some evaluativecapabilities beyond formal peer reviewers and institutionally recognized experts. This creates acapability–recognition mismatch: who can identify a potentially valid scientific problem may diverge fromwhose criticism institutions recognize. Yet expanded scrutiny also creates a quality-control problem. Thesame systems can lower the cost of pseudo-scrutiny, hallucinated objections, and technically sophisticatedbut unverifiable claims. The institutional challenge is therefore how to distinguish objections that meritescalation from those that do not. I argue for a layered governance principle: relatively open participation indetecting scientific problems, combined with progressively stronger requirements for provenance,reproducibility, evidentiary specificity, and expert adjudication before institutional consequences follow.Generative AI may democratize science not only by changing who can produce scientific claims, but also bychanging who can practically challenge them.要旨生成AIは、執筆、コーディング、分析への障壁を下げることで、科学的知識の生産を民主化しうる技術として論じられることが増えている。一方、既存の評価上の役割の外で科学的主張を精査する際の障壁も下げうるという、並行する可能性には十分な注意が払われていない。本稿は、この変化を概念的に論じる。科学的資料へのアクセスと、それらを吟味する能力とを区別し、生成AIが科学的知識の生産と科学的精査の二重の民主化に寄与しうると主張する。統計的解釈、コードの検査、文献比較、引用の確認、方法論的推論を支援することで、AIは評価能力の一部を正式な査読者や制度的に承認された専門家の外へ広げうる。そこには「能力と承認の不一致」が生じる。妥当である可能性のある科学的問題を発見できる人と、その批判が制度によって承認される人とは一致しない場合がある。しかし、精査の拡大は品質管理の問題も生む。同じシステムが、見せかけの精査、幻覚に基づく異議、技術的には高度に見えても検証できない主張を生み出すコストも下げるからである。したがって制度的な課題は、より踏み込んだ審査や対応に進めるべき異議を、そうでない異議からどう区別するかにある。私は、科学的問題の発見への参加を比較的開かれたものとしつつ、制度的な措置に至る前に、証拠の来歴、再現可能性、証拠の具体性、専門家による裁定への要件を段階的に強める、層状のガバナンス原則を論じる。生成AIは、誰が科学的主張を生み出せるかだけでなく、誰がそれらに実際に異議を唱えられるかを変えることによっても、科学を民主化しうる
