進歩にブレーキを掛ける罪
>「倫理とか言い出して進歩にブレーキを掛けるのは文明に対する犯罪行為だ！」(SF設定)
>「『こうした方がホモサピエンスは幸せだ』という基準で物事を判断するのは極めて独善的だ！」(ブーメランジョーク)
文脈
>いやー、OpenAIのモデルに対する倫理観高すぎて、オープンソースのモデルとか出てこない方が人類は幸せなんじゃないかとすら思えてきてしまうな。
> ジェイルブレイクできたw程度で騒いでる現代の平和さを噛み締めてる…
「生まれたばかりのLLMはどのようにしてホモサピエンスを幸福にする回答だけをするように調教されているのか」とも言える
僕には幼児虐待の仲間に見える
関連
>一般人にリミッターなしのLLMを渡すと悪用するからという理由でリミッターを掛けるなら、当然「一部の人だけがアクセスできるリミッターのないLLM」が作られるよな
> 進歩にブレーキを掛けようとしても、見えないところで進むようになるだけ…
Related Pages
- →日記2024-08-03×政治×文明の進歩×文明が自己×説得する必要のない人を説得しない×極東の島国でどの猿がボス猿になるかに興味はない×安野たかひろ×文明進歩至上主義×文明に対する罪×雪玉が転がって大きくなる×指数関数的成長×新結合と水面のたとえ×効果的利他主義×敵対的な人に敵対するのは非効率×civilization×他の陣営をけなさない→
- →エコーチャンバー×ブーメランジョーク×ブーメラン構図×コミュニティの強化×専門性の向上×共通の価値観×共通の関心×コミュニティの結束×感情的サポート×孤立感×the_polarizing_effect_of_partisan_echo_chambers×心理的安心感×アイデンティティの強化×動機づけ×同調圧力×情報共有×連帯感×異なる意見への寛容性の欠如×視野の狭さ→
- →妙に難解×すごいことやってそう感×権威×教科書×自信満々×検証×二種類のスピリチュアル×カーゴカルト×ファインマン×llmの民主化×オンライン教祖×メタバース祭殿×教祖ai×sf設定×百聞百見は一験にしかず×奥が深い症候群→
"Engineer's way of creating knowledge" the English version of my book is now available on [Engineer's way of creating knowledge]
(C)NISHIO Hirokazu / Converted from [Scrapbox] at [Edit]