選択についての批判を受け入れる責任
主なポイントは以下の通りです：
創造とは、無数の可能性の中から一つを選び、その選択に責任を持つこと。AIが大量の出力をしても、そこから一つを選ぶ責任を取らなければ、真の意味での創造にはならない。
人間の創作者は、作品を公開して批評を受けることで成長する。過去の作品の積み重ねの上に新しい作品が生まれる。一方、AIにはこの時系列の変化がない。
AIが人間と同等の創造をするためには、「人格」すなわち作品に対する責任を取る主体が必要。外部評価をフィードバックするだけでは不十分で、自分のやりたいことを持ち、実際にできたことと比較することが重要。
ファンからの費用で維持されるAI仮装人格は、人気が落ちれば死ぬ、という形で責任を取る
故人の作品を学習させるだけでは、その人の作品の変化の軌跡までは再現できない。
つまり、真の創造には、無数の選択肢からの「選択」とその「責任」が不可欠で、そのためには時間をかけて自己を確立する「人格」の存在が必要だ、という主張だと理解できます。
AIが本当の意味で創造的になるには、技術的な側面だけでなく、こうした創造の本質的な部分についても考慮する必要があるという、示唆に富む指摘だと思います。一方で、AIの技術が将来どこまで発展するかはまだ分からないという見方もあるでしょう。いずれにせよ、創造とは何かを考える上で重要な視点を提示していると言えます。
>Ototo_ 生成AIで思い出した。
> 35年くらい前、私の父が「人間が『創造する』というのは多くの場合はそれまでに見たことがあるものを組み合わせただけなんじゃないだろうか」というようなことを言ってたような記憶があるんですが（汗）もしそうなら、生成AIは人間と同じになってしまう、そうではないはず。
>anohana これは良く聞くんだけど作り手としては肝心要の要件が抜けていて、それは「創造とは、有り得る膨大な表現の中から、自分の表現として責任を持って一つを選んで出すことだ」という点。
> 演技だと「選択(choice)」が要だというのは創造の場で始終言われてるんだけど、他の分野ではそうでもない?
>anohana 結局、生成AIが1000点出力したって受け手がその1000点を全部見られるわけじゃないし見る意味もない。重要なのはそのうちの一つを「これが私の作品である」と出して、その選択についての批判を受け入れる責任を取ること。
> AIがそれをできるようになるには、人格が必要になるんじゃないか。
>guicho271828 何と何をどう組み合わせるかで O(N*N*M)、しかもNが大きいですからね
>anohana これの反応を見てて、あんまり共有されてないかもと思った個人的視点。
> 人間の作り手は、自分の責任で選択したものを世に晒して批評を受けることで変化する(成長する)。出してみて初めて分かること、学べることってのがたくさんあるから。
>anohana 作品は建前上はそれ単独で評価されるべきものかもしれないけど、作り手が出す度に変化してゆく以上、ある作品というのはその作者がそれまでに出してきた作品群の上に成り立っている。すげー作品というのが何の脈絡もなしにぽっと出てくることは、皆無ではないとしても珍しい。普通は前駆作品がある。
>anohana つまりある作品が生まれるためには、作者がそれまでの前駆作品を作って出す経験が必要であった、と言える。
> 「人間もそれまで取り込んだインプットを組み合わせているだけ」という見方は、この時系列の変化を考えに入れてない点で大きな見落としがある感じがしてしまう。
>anohana これは単にAIにも自分の作品を食わせれば良いという話ではなく、どうしても「一度作品を自分から切り離して他者の評価を受け止めること」というステップが必要に思えるのだ。
> AIが人間と同じことをするにはAIにも人格が必要ではないか、と書いたのは、
>anohana その「自分がやってしまったこと (作品を世に出すと、言い訳ができない) へのフィードバックを個人的に受け止めて、それが次の選択を変化させる」というメカニズムを機能させるために必要じゃないか、って意図。
>anohana 単に、強化学習に外部評価を入れるという話ではない。それをやったら、外部の評価軸に迎合するようになるだけ。
> 外部の視点の効果は、「自分でもわかっていない、自分がやりたかったこと」「自分が実際にできたこと」「それが実現したこと」の3者間の比較が可能になること。
>anohana その効果を得るには、「自分でもわかっていない、自分がやりたかったこと」を持っていないとならない。それが「人格」というか、責任を取る作り手の主体。
>anohana 「故人の作り手の作品を学習させて新作を作る」というのに懐疑的なのも同じ理由で、少なくともすごい人ってのは自己模倣に安住することを良しとはしなかったと思うんだよね。作品を出す度に変化していたはず。その変化が無いなら、それはエピゴーネンにしかならんのでは。
Related Pages
- →根拠と接続×破壊×創造×概念マップ勉強会×リンクと意味の創造×ボトムアップのタグ付け×「体験過程と意味の創造」勉強会3×「体験過程と意味の創造」勉強会4×c×見え方の操作と関手・層・商×順序非可換＝新規性×貼合障害→
- →登って降りる×ボトムアップでないと応用ができない×畑村洋太郎×技術×創造×設計×メタファー×似たものを比較することで新たな学びがある×セクショナリズム×脈絡をつける×脈絡×共通概念でくくる×使う概念を選択する×共通概念×kj法×グループ化×箱を上に積む×エンジニアの学び方のモデル更新の図→
- →ai_as_a_player_in_a_game×クラウドワーカー×decentralized×market-based×rlhf×アノテーションプラットフォーム×schelling_point×群衆の知恵×信頼できる中立性×エシカルデータ×ピア予測法→
- →オモイカネプロジェクト×オモイカネ勉強会×自分のscrapboxをchatgptにつないだ話勉強会×omoikane_embed×aiと人間の知的な共同作業×aiによる赤リンクの延伸×生のchatgptとomniのユースケースが違う×非公開omniを使ってみての感想×ベクトル検索は切り出しの機会になる×ベクトル検索は認知の解像度を高める道具として機能する×azure_cognitive_search:_outperforming_vector_search_with_hybrid_retrieval_and_ranking_capabilities×検索を組み合わせる×dpr×bm25×ベクトル検索×dense_passage_retriever×fusion_in_decoder×azure_cognitive_search×hnsw×リランク×hierarchical_navigable_small_world×西尾のベクトル検索×経験的に明らか×ベクトル検索が有用だった事例×社会保障費と科学技術関係経費の比較×名詞形×実現不可能なアイデアが独創的に見える×instruction_tuning×helpfeel×omoikane_vector_search×ベクトルインデックス×github_action×qdrant×omni×aiが毎日研究ノートを書く×aiとの共同化×人間がトリガーを引かなくても良い×pioneer_mode×ページをフォークしたい×マルチヘッド×ページメモリ×マルチヘッドの思考×話題のピン留め効果×aiノートの更新間隔について×recurrent_notesとiterative_commenterの違い×赤リンク×長いタイトルを刻むページ×当たり判定拡大×🌀交換様式d×情報交換は交換×知識交換の交換様式はaなのか×贈与の対象としての公共×説明のある検索×ベクトル検索とragの肌感の違い×「どの部分がaiでどの部分が人間か？」という問い×ai生成ページのタイトルに🤖を入れるのをやめた理由×aiページの底に埋もれてる×rag×概念は思考の経済性を高める道具×氷山モデル×公共の言葉と私的な言葉×エンジニアの知的生産術×(6.2.5.5)_公共の言葉と私的な言葉×seciモデル×交換様式論×共有の場×新しい交換様式×rlhf×非公開omni×横断ベクトル検索実験メモ2023-09-20×公開omniと非公開omniの感覚の違い×自分由来×scrapboxでの知識醸造をllmに教える×弁証法的発展×切り分けられていない連なりの一部にヒットすることで切り出しの機会になる×時間軸で並んだ記述からトピック指向で切り出される×適切な切り出し方は、ニーズが明らかになった後に決まる×切り出し×常緑のノートはアトミックであるべき×単一責任原則×死んだテキストを置く倉庫ではない×今考えていることを少しずつ違う方向から観察する×似ている→違いは？×認知の解像度×似ている×違い×言語化×物事をより詳細に観察×小さな収束ムーブとそこからの発散×アイデアの干渉効果×発想法×対立は近い関係×scrapboxに住んでるエージェント×scrapboxとaiに関する思考の結節点2023/8/16×上書きモード×aiの支援で新しい結合ができた事例×質問は言語化を促すが質問にも種類がある×enchiへの導入×aiの役割の明確化が大事×中学生の職場体験でsfプロトタイピングをやってもらった事例×流動的プロセスとしてのページ×思索と開発のトレードオフ×苦痛×このプロジェクトにおけるaiの役割は何か×複数の個性のaiがある？×aiノートのページごとに目的を明示したらいいのでは×苦痛の原因×異なるコンテンツの間のつながり発見×自分の日記に他人のaiを召喚×aiが無限に思考を発展させてくるので休めない×他のプロジェクトのurlを読めるという気づき×たまに浮かび上がるページ×「マルチヘッドの思考」と「エンジニアの知的生産術」×まとめを上に書く×___below_is_less_interesting___を__below_is_ai_generated__にした×🌀マルチヘッドの思考×🌀ai出島×iterative_commenter×aiシャーマン×松尾研のllm講座×aiによる異なる視点の提供の実例×歌詞をaiに解釈させる実験×不明瞭で長期的なタスクをaiにねりねりさせる×pdfからscrapboxへ×ビジネスはシーズとニーズのマッチング×メタ考察:ビジネスはシーズとニーズのマッチング×市場ニーズと個人ニーズ×深層の価値探求:_連携と成長×aiにページを発展させさせる×長い寝起き神託の考察×最近のモーニングルーティン2023-09-15×人生に関する歌詞を集めて気に入ったフレーズをピックアップする×llmに似ているものの違いを言語化させる×(仮)まだ名前のない操作×scrapboxを活用した思考とコミュニケーションの再構築×「人間」の概念が曖昧→
- →複数の選択肢×選択×深堀り×選択した結果だけ書くとやったことの難しさや凄さが伝わらない×連想×寄り道しすぎ×省略しすぎ×選択肢×複数のストーリーを重ねた時の共通部分を見る×ストーリーの交差点がアトムになる×文章が作られるプロセス×レポートの書き方→
- →生きがい×学生を戦地に送るには×明日死ぬかのように生き、永遠に生きるかのように学べ×自分をいかして生きる⇔自分をころして生きる×生き方×働き方のスタイル×生きるとは創造すること×人生100年時代の社会保障とpolitech×生きる×学ぶ×働く×創造×生きるとは異質な要素を意味のある形で組み合わせ、秩序を創り出すこと×長寿化社会における生きがいの探求とその社会的なサポート→
- →training_language_models_to_follow_instructions_with_human_feedback×reinforcement_learning_from_human_feedback×rlhf×InstructGPT→
- →sam_altman×1984年×すばらしい新世界×rlhf×al_alignment×一貫性は期待できません×日記2023-03-25×日記2023-03-27×日記2022-12-16×日記2022-03-26→
- →マルチ・ポテンシャライト×創造×博学者×ルネサンス人×ルネサンス×アイデアの統合×革新は交差点で起こ×交差点×迅速な学習力×のめり込み×初心者×駆け出し×わからないということが怖い×コンフォートゾーン×適応力×焦点を絞れ×マルチポテンシャリティ×multipotentiality×好奇心×スペシャリスト×スペシャリストとジェネラリスト×誤った二項対立×定住×移動×遊牧民→
- →レヴィナス×＜同＞と＜他＞×形而上学と超越×見えないものへの渇望×全体性との絶縁×超越は否定的なものではない×超越×形而上学は存在論に先立つ×＜無限なもの＞の観念としての超越×分離と語り×無神論あるいは意思×真理×語り×レトリックと不正×語りと倫理×形而上学的なものと人間的なもの×対面という還元不可能な関係×真理と正義×問いただされる自由×自由の任命または批判×真理は正義を前提している×分離と絶対的なもの×内部性とエコノミー×生としての分離×志向性と社会的関係×〜によって生きること（享受）。成就という概念×享受と自存性×欲求と身体性×＜私＞が私であることの情動性×享受する＜私＞は生物学的なものでも社会学的なものでもない×享受と表象×表象と構成×享受と糧×始原的なもの、ならびにものと道具×感受性×始原的なものという神話的な様式×＜私＞と依存×喜びとその明日×生への愛×享受と分離×住まい×住まうこと×住まうことと女性的なもの×＜家＞と所有×所有と労働×労働、身体、意識×表象の自由と贈与×現象の世界と表出×分離とはエコノミーである×作品と表出×現象と存在×顔と外部性×顔と感受性×顔と倫理×顔と無限なもの×顔と理性×語りが意味を創設する×ことばと客観性×〈他者〉と多くの〈他なるもの〉×間人称的なものの非対称性×意志と理性×倫理的関係と時間×多元性と主体性×交易、歴史的関係、顔×意思と死×意思と時間-忍耐×意欲することの真理×顔のかなた×＜愛＞の両義性×＜エロス＞の現象学×多産性×＜エロス＞における主体性×超越と多産性×息子であることと兄弟であること×時間という無限なもの×結論×似たものから＜同＞へ×存在とは外部性である×有限なものと無限なもの×創造×外部性と言葉×表出とイメージ×＜中立的なもの＞の哲学に抗して×主体性×主体性の維持-内部的な生の実在性と国家の実在性-主体性の意味×＜存在＞のかなた×任命された自由×善さとしての存在、＜私＞、多元性、＜平和＞×哲学の教科書×存在から生成へ×図解使える哲学×もう一度読む山川倫理×アイデア大全→
- →jiro_kawakita×発想法―創造性開発のために×hassou-hou×発想法×発想×ideation×発×想×法×method×創造性×creativity×創造×-性×開発×のために×kj_method×パーティー学──人の創造性を開発する法→
- →目標×主要な結果×okr(書籍)×radical_focus×john_doerr×measure_what_matters×ラリー・ペイジ×ドラッカー×management_by_objective×マイルストーン×smart_criteria×上意下達×優先事項×フォーカス×コミット×アラインメント×連携×チームワーク×進捗×トラッキング×責任×驚異的成果×ストレッチ(okr)×ビジョナリーカンパニー2×社運を賭けた大胆な目標→
- →やりたい×やれる×やるべき×サイボウズ×モチベーション×リクルートのwill_can_must×会社というモンスター×やるべきことを決めるのは会社ではなく自分×選択×やるべきことの中から、やることを自分で選択する×覚悟→
- →2019年度武蔵野市寄付講座「itとルールの今・未来」×遠山_勉×模倣×創造×知的財産×知財×受講ノート×日本人は真似が上手×プログラミング言語による生産性向上×真似は悪いことか？×守破離×steve_jobs:_good_artists_copy,_great_artists_steal×シュンペーター×イノベーション×組み合わせ×development_as_production_of_new_combinations×模倣の種類×反対模倣×イノベーティブな人材を事前に目利きできるか？×模倣志向×模倣の動機×知識習得欲求×同化願望×経済的合理性×elm分析×ジャレド=ダイヤモンド×銃・病原菌・鉄×利用発明×模倣と独立×独立の欲求×自立×アドラー心理学×抑圧×解放×言語化×尾上_墨雪×創作と古典は伝統の両輪×創造のない伝統はない×未踏ジュニア深圳ツアー2019×価値は違いから生まれる×think_different×成長的模倣×停滞的模倣×新結合×線は新結合×「点がつながる」が「創造」×connecting_the_dots×どの国が今日の世界経済を牽引しているか×恩送り×変差値×変のススメ×未来を予測する最良の方法は、それを発明することだ×クアルコム×スティーブ・ジョブズ×グループウェア×関心空間→
- →junior_high_school×passive_learning×active_learning×the_ratio_of_the_passive_learning_and_the_active_learning×中学×高校×high_school×大学×university×社会×society×期末試験×exams×部活×club×選択×selection×入試×entrance_examination×研究×reseach×就職活動×job_hunting×資格試験×qualifying_examination×(1.2.1.1)_teacher_gives_you_textbooks×(1.2.1.2)_how_much_time_can_you_spend_for_learning?×(1.2.1.3)_who_pays_money_to_learn?×(1.2.1.4)_counterwind×student_learning×university_learning×student×生徒×学生→
"Engineer's way of creating knowledge" the English version of my book is now available on [Engineer's way of creating knowledge]
(C)NISHIO Hirokazu / Converted from [Scrapbox] at [Edit]