NISHIO Hirokazu[Translate]
2023-04-10 LLM Meetup
LLM Meetup Tokyo #1

>takahiroanno 都内某所で行われたLLM meetupに行ってきたけどめっちゃ良かった。参加者は全員LLM関連のデモ持ってこないと参加不可というハイブローなmeetupだったんだけど、50人ぐらいきてた。参加者がひたすら蒸留されてて、LLM無職がたくさんいた。一つの時代のはじまりを感じたよおれは
>takahiroanno LLM無職=LLMの凄さを目にして思わず会社を辞めた人(最近起業した人を含む)
>takahiroanno この回ですね。来月もやるらしいので期待しております


レギュレーション
>LLMをAPIを通して使った、fine-tune してる、作っているなど、実際に手を動かしてLLMを触っている人だけの小規模なミートアップです。後半のデモタイムで自己紹介&デモをしていただける方だけ、ご参加いただけます。

自己紹介


はるか昔のような気がする
3.5
ChatGPT API

3/18にGPT4 APIが来た



参加者のTweets
>@kenn: LLM Meetup Tokyoめちゃ楽しかった!皆さんありがとうございました!

>@elmer_mmm: LLM Meetup Tokyo #1 のデモでお見せした #ChatGPT でロボット動かしてみた動画です!会場では音が聞こえなかったので是非!他にもカチャカに乗せたり多言語話させたりしてます!

>@yamaguchi_man: LLM Meetup Tokyoよかった〜検索の部分色々皆さんトライされてるの知れて勉強になった
>ウチの場合だとルールベースとかと組み合わせてやっつけてる感じだからなあ

>_mkazutaka LLM Meetup Tokyo参加してきました!楽しかった!直接プロンプトどうなってるんですかとか語り合えるの最高だった!

>wroorurkwao LLM meetup にて、競争優位性は何が残るのかなぁ?みたいなことについてお話ししました。


>y_matsuwitter 本日のLLM Meetup Tokyo #1 の資料。とても雑ですがMacBookProでも動くような軽量なLLMでAgentを作ろうとするとどうなるのかといったことを土日に実験していました。
>
>y_matsuwitter 小さなモデルとはいえ、ReActのPromptは英語ベースなのでカテゴリとタスクを双方絞ってFine-Tuningすればもう少し上手く動いてくれるんじゃないか思っておりGPT-3あたりでデータ作ってColab上でFine-Tuningしてみるというのは次やってみたいところ。
>erukiti 次は OepnAI パーカーを着てる y_matsuwitter さん
> 「Agentと軽量モデルの検証」
>erukiti 「LLMやりたいからチーム立ち上げた(自分とMLチームで)」
> パワフルや
>erukiti 「国策で日本LLM作りたい」
> 「大企業さん意外に渋い」
>erukiti 「LLM Meetup くるような人は、自立的に動くagentに興味持ってる人多いやろ」
> はい
>erukiti 「LangChain とか agent をガシガシ組み合わせるとレスポンスまでの時間がかかりすぎる」
>erukiti 「今日の本題は、LLaMA.cpp とか Alpaca とかで ReAct できないか?」
> 「結論としては現状のフリーの軽量モデルだと無理」
> Vicuna 13B 4bit や RWKV とかも無理っぽい
>erukiti 個人的には ReAct やるためのデータセットを GPT-4 とかで生成しまくって、fine-trune すればいいんじゃね?という気はしてる

>chiral 今日のプレゼンスライド置いときます。みんなイケてる発表ばかりでショボいけど、まぁ僕も実装してるぜアピールってことで笑drive.google.com
> LLM Meetup Tokyo #1 Masayuki Isobe.pdf

>yakigac LLM meetupで発表してきたスライド↓
>
>yakigac そしてデモサイト
>yakigac バグはこちらにプルリクお願いします。

>masa_kazama LLM Meetupで、「微分可能な検索インデックス」というタイトルでLTしました。キーワード検索やベクトル検索とは違う生成時代の新しい検索手法は楽しみですね。
>
>masa_kazama 手法の詳細はこちらの解説記事が、とても分かりやすいです。
>

>@AkihisaShiozaki: OpenAI社のサム・アルトマンCEOが来日し、自民党・AIの進化と実装に関するPTに出席。日本での活発なChatGPTの利用などを引き合いに「日本がAIの利活用を通じて世界で大きな存在感とリーダーシップを発揮してほしい」と同氏。日本への期待を込めて、以下の7点の提案がありました。
>1…
>
>@overlast: この7つの提案は全て日本国内の4年先の技術力を削ぐ提案になっていますね。そして削ぐ力はそれぞれ違いますね。この提案の様なことを国内で実施できる様にしたいですね。またOpenAIが提案内容を一営利企業として実施し、各施策を日本の政府や自治体が優遇しないなら、単に便利、なので問題なさそうです

>chiral 明日のLLM Meetup Tokyoの準備だん。ヘルプデスクAI(EmbeddingsAPI,Weaviate,CompletionAPI, 社内PCでdocker-composeで諸々ホスト)と、LINEチャット占いAI(LangChain,Flask. ngrok使ってcolabでホストしてLINE MessagingAPIにつなぐまで)の、豪華(笑)2本立て!

>tdualdir こちらに参加します!!
> GPTを使ってテーブルデータの前処理を自動化するデモをします!!(将来的にMatrixFlowに載るかも。)

>LLM Meetup Tokyo #1 の飛び込み枠で発表したスライドです

>npaka123 来週の LLM Meetup Tokyo 参加します。
>


"Engineer's way of creating knowledge" the English version of my book is now available on [Engineer's way of creating knowledge]

(C)NISHIO Hirokazu / Converted from [Scrapbox] at [Edit]