ReLU
Rectified Linear Unit
従来のS字カーブであるtanhに比べて性能が良いことが下記論文で示された
Glorot, X., Bordes, A. and Bengio, Y., 2011, June. Deep sparse rectifier neural networks. In Proceedings of the fourteenth international conference on artificial intelligence and statistics (pp. 315-323).
Related Pages
- →日記2023-09-17×s字カーブ×with_aiの知的生産×停滞期×下手の考え休むに似たり×リテラシーの霧の奥に光が見える×aiと人間の知的な共同作業×思考の停滞期の克服×いつでも速いフィードバックがもらえるシステム×ベクトル検索とragの肌感の違い×編集をアフォード×文脈付きで推薦→
- →ロードマップ×エコシステム×レッドオーシャン×周辺部×ブルーオーシャン×知識交換の必要条件×平均志向が最悪の環境×2種類ある×s字カーブ×学校の勉強はロードマップ型×断絶×伽藍とバザール×レースの時代・ゲームの時代→
"Engineer's way of creating knowledge" the English version of my book is now available on [Engineer's way of creating knowledge]
(C)NISHIO Hirokazu / Converted from [Scrapbox] at [Edit]