このようにして、科学技術を用いる実務の専門家、そしてさらにそれらの専門家を雇う政府や大企業は、科学者とはまったく異なる気質を身につけるようになる。それは、無限の力を手に入れた感覚、傲慢な確信、人間さえも（物であるかのように）操ることの快感、に満ちた気質である。これは科学的気質とは正反対のものであるが、それにもかかわらず、科学がこのような気質の助長に一役買っていることは否定できない。
Thus the practical experts who employ scientific technique, and still more the governments and large firms which employ the practical experts, acquire a quite different temper from that of the men of science : a temper full of a sense of limitless power, of arrogant certainty, and of pleasure in manipulation even of human material. This is the very reverse of the scientific temper, but it cannot be denied that science has helped to promote it.
Source: Bertrand Russell: Religion and Science, 1935, chapt. 10: Conclusion
More info.: https://russell-j.com/beginner/RS1935_10-010.HTM
＜寸言＞
権力は、社会秩序の維持や社会の発展に必要な反面、放っておくとあっという間に"タガ"が外れます。ビッグデータとAIも似たような側面があります。暮らしを便利にしてくれる一方、その陰で何が起きているかを見落としやすいので注意が必要です。
たとえば、監視衛星や顔認識を使えば、地球上の誰でもほぼリアルタイムで追跡できます。実際、米国や中国では "undocumented people" や少数民族が「管理すべき対象」とみなされ、拘束や殺害にまで至った例が報告されています。
遠い国の話に思えても、私たちの身近にも同じ構図があります。フェイスブック-ケンブリッジ・アナリティカ事件では、数千万の心理データが選挙広告に利用され、世論が水面下で操作されかけました。
便利さに目を奪われるほど、暴走は静かに進みます。だからこそ、「どこまでが恩恵で、どこからが危険か」を自分の頭で嗅ぎ分け、権力と技術を見張る視線だけは緩めないようにしないと、いつの間にか私たちの自由は侵害されてしまいます。
Power is indispensable for maintaining social order and driving progress, yet once its checks loosen, it can run wild in an instant. Big data and AI share the same dual nature: while they make our lives more convenient, they also conceal processes we are apt to overlook.
Take surveillance satellites and facial-recognition systems. With them, virtually anyone on Earth can be tracked in real time. In fact, both the United States and China have reportedly treated undocumented people and certain minorities as populations to be "managed," leading in some cases to detention and even killings.
This is not just a distant problem. Closer to home, the Facebook-Cambridge Analytica scandal showed how tens of millions of psychological profiles could be fed into targeted political advertising, nudging public opinion below the waterline of awareness.
The more dazzled we are by convenience, the more quietly these excesses advance. That is why we must keep asking ourselves where benefit ends and danger begins, and never relax our vigilance over power and technology, otherwise, our freedoms may be eroded before we realize it.