巡回セールスマン問題でニューラルネットの可視化
これは多層パーセプトロンの8次元の入力層から32次元の中間層に対する投射の重みを可視化したもの。なんか構造がありそうに見える。しかしわかりにくい。そもそも横軸は中間層のIDで、中間層のIDは順番に意味がないので、シャッフルされたものを見ているからだ。これを「似たものが隣接するように並び替え」て観察したい。それは巡回セールスマン問題に帰着できる。
というわけで並び替えたものがこちら。中間層が半分ずつに分担して、入力の半分だけに注目してることがわかる。
pythonfrom matplotlib import pyplot as plt
from ortoolpy import tsp
M = m.coefs_[0]
N = M.shape[1]
dist = {(i, j): np.linalg.norm(M[:, i] - M[:, j])
for i in range(N)
for j in range(N)
if i != j}
_, result = tsp(range(N), dist)
plt.imshow(M[:, result])
plt.show()先日、数理最適化を使った問題解決のすすめ - Qiitaの著者による講演で、シュレッダーにかけた画像を隣接するものがなるべく似ているように巡回セールスマン問題で並び替えて復元する例が紹介されていたのでこういう応用を思いついた。
Related Pages
- →サイボウズラボ勉強会×ブロードリスニングの「あの図」勉強会×ブロードリスニング×都知事選2024×talk_to_the_city×日テレnews×2024衆院選×ブロードリスニング×世論地図×plurality和訳×japan_choice×議員pedia×投票ナビ×政治参加×社会参加×じぶんごと×可視化×11万人の意見クラスター分析×polis×aiによるクラスタ解説×mielka×結城_東輝×台湾デジタル発展省×mashbean×funding_the_commons_tokyo_2024×glen_weyl×glen+japanchoice×plurality×大きな物語×polis体験レポート:同性婚を合法化すべきか×polis勉強会×polis:_scaling_deliberation_by_mapping_high_dimensional_opinion_spaces×主成分分析×シルエット係数×fisherの正確確率検定×convex_hull×d3.js×モバイルファースト×majority_judgement×多数決×polis_2.0×aiクラスタ解説×会社さんはいない×2022年参院選のpolis的可視化×東京大学谷口研究室・朝日新聞社共同調査×公明正大→
- →サイボウズラボ勉強会×plurality_in_japan(サイボウズラボ)×funding_the_commons_tokyo_2024×talk_to_the_city勉強会×tttc:_aiと著作権に関するパブリックコメント×サイボウズと語ろうplurality_多元性の実践と期待×2024-09-08-民主主義を支える技術×ブロードリスニング×meetup_with_thomas_hardjono×ソーシャル物理学×テクノロジーとわたしたちの「距離感」が変われば、誰も取り残されない社会がつくれるかもしれない×デジタル民主主義×ブロードリスニングの「あの図」×階層組織×ティール組織×個人情報とマネタイズ×成蹊大学×2019年度武蔵野市寄付講座「itとルールの今・未来」×計画経済×llmがもたらす組織構造の変化×ブラウン組織×plurality_tokyo×pluralityとpolis勉強会×主観か客観かではなく、一人の主観から大勢の主観へ×情報の複製により情報発信は効率化されたが、受信は改善しない、情報を減らす技術が必要×関_治之×激動の2024年5月下旬×ミーム化×asia_blockchain_summit_2024×サイロ化×組織の境界×なめらか化×plurality_in_japan×良い議論ができる場を可視化の後につける×可視化×aiあんの×u理論×ソーシャルフィールドを耕す×mashbean×dx&ai_forum_2024×生成aiで作るデジタル民主主義の未来×「聴く」「磨く」「伝える」のサイクル×human_in_the_loop×people_in_the_loop×オモイカネ勉強会×chatgptとaiあんののコミュニケーションの形の違い×社会的学習×アイデアの流れを混ぜてアイデアの多様性を増す×組織としての学習×集団的知性×複数組織とブロードリスニング×個人的文脈×当事者意識×ファウンダーマーケットフィット×熱意×proj-broadlistening×social_hack_day→
- →成績×トークン×透明化×可視化×チュートリアル×広く知られたui×初対面×大勢の人間×行動デザイン×熱狂的な人×リーダーボード×熱意のある個人×アテンション×リソース×熱意は貴重なリソース×名前を覚えてもらえる×人脈とはどれだけの人を知っているかではなく、どれだけの人に知られているかだ×社会資本×変革センター×熱意のある人はリソース×お客さん×活動する人×一次元尺度換算→
- →川喜田二郎×kj法×問題解決×アイデア出し×情報の整理×グループ活動×可視化×kj法は個人作業をしなければ力がつかない×問題を解決するための洞察×付箋×グルーピング×グループ化×直感的×直感的にグルーピングする×論理的な分析×事前のカテゴリー分け×直感×感覚×経験×関連性が感じられる項目×先入観×新しい視点×アイデアの結合×表面的ではない深いつながり×潜在的なテーマ×思考の枠×アイデアの発見×問題の根本的な原因×パターン×関連性×多様な視点の尊重×参加者全員の意見×参加者全員の直感×多様な視点×制約の最小化×事前のカテゴリー設定を避ける×カテゴリー×情報の可視化×オープンで安全な空間×安心感×事前にカテゴリーを設定しない×分類基準×柔軟性×洞察×予期せぬ関連性×新しい発見×見過ごされがちなアイデア×情報間の新しい結びつき×創造的な思考×新しいアイデアの発展×先入観の排除×偏見×オープンな視点×集団の知恵×集団全体の知恵×個々の貢献を促×集団全体の成果を高める×多角的×柔軟に考える×固定観念→
- →日記2023-05-23×ボードゲームとしてのシンボリックモデリング×会話によって言語化を促す×言語化×段階×サブゴール×keichobot×内部状態×可視化×人間とllmの協調ゲーム×polis×協調ゲーム×意見の散らばり方×合意の形成され具合→
- →指数時間アルゴリズム×岩田_陽一×巡回セールスマン問題×最大クリーク問題×幅×グリッドグラフ×pathwidth×半分全列挙×最大独立集合問題×fptアルゴリズム×最小頂点被覆問題×有界探索木×カーネライズ×シュタイナー木問題×包除原理×ハミルトンパス×グラフ彩色問題×彩色数×高速ゼータ変換×畳込み×完全マッチングの個数×完全マッチング×color_coding×k-cycle×bandwidth×cut_&_count×iterative_compression→
- →past3×past3n×past3o×past1m×past1k×最小共通祖先×past1l×クラスカル法×past2h×past2i×past2j×past2k×最小費用流×past2n×平面走査法×PAST3M×巡回セールスマン問題×past2m×past4m×past2l×past4n×past2o×past4o×past1o→
- →組織論×技術的負債×メンタリング×メンター×不確実性コーン×イドラ×認知的不協和×経験主義×仮説思考×pdcaサイクル×リアルオプション×システム思考×他者説得×自己説得×傾聴×可視化×リフレーミング×共感×明晰化×認知フレーム×心理的安全性×アクノレッジメント×ストーリーテリング×ジョハリの窓×smart_criteria×アジャイル×デミング×トヨタ生産方式×リーン生産方式×アジャイルの格率×脱構築×制約スラック×クリティカルパス×マーケット不安×スケジュール不安×権限委譲×アカウンタビリティ×デリゲーションポーカー×okr→
"Engineer's way of creating knowledge" the English version of my book is now available on [Engineer's way of creating knowledge]
(C)NISHIO Hirokazu / Converted from [Scrapbox] at [Edit]