Pinned
現代における重大な潮流として急速に注目を集めているAIがもたらす深刻なリスクとその歴史的背景について、約14万字の記事を公開します。AIの脅威に関する論理、その歴史的背景、技術的対応策（AI Alignment研究）および政策的対応策（AIガバナンス）について総合的に執筆させていただきました。
bioshok
22.6K posts
bioshok
@bioshok3
AI Safety/Alignment/National security/Singularity/Superintelligence/AGI/X-Risk/prediction
note.com/bioshok/
INODS research fellow/AGI HUB founder
- studio.d-id.com/share?id=966fd… や、ヤベェ 日本語で適当に喋らせたい言葉を入れたらアバターが喋ってくれる映像が生成されるサービス！（１００カ国語くらいに対応しているらしい）
- ついに米国政府は半導体輸出規制をTier1から3までに分類。そこまでは数日前から言われてたことだが、今回ついにAIシステムそのもののTier3へのホストを禁止することになった。Deepseekが合成データを使っていると思われることを鑑みてもこれは安全保障上大事なことだ。Tier2でもセキュリティ要件など制
米国の新しいGPU出荷制限やべ～。世界中の国はティア１～３に区分けされる。ティア１の国は今まで通りGPU買い放題。ティア２の国（大多数がこれ）は３年間で５万台しかGPU買う権利が与えられないとか？ティア３（中国、ロシアなど）はデータセンター向けGPU輸出禁止。日本は幸いなことにティア１だけど - 衝撃的なこと（判断は人それぞれ任せますが）が判明したかもしれない。 Open AIのインサイダーと思わしきJimmy Apples氏に今日フォローされDMで「AGIが内部的に達成されている」件についてダメ元で聞いてみたらなんと返信があった。DMのスクショはなしで日本語で内容呟くなら公開OKとのこと。以下貼る
- Open AI Super Alignment元社員(leopold-aschenbrenner氏)から余りに衝撃的なブログ記事公開。 「今、何が私たちを襲おうとしているのかを理解し、事態がどれほど狂っているのかを理解し、状況認識を持っている人は、おそらく世界に数百人しかいない。」
- はいきちゃいました。 ChatGPTを使用したWebブラウザ操作自動化の「MULTI・ON」 ハンバーガーを頼んで！というと検索して注文までしてくれる。あらゆるコンテンツの検索、Amazonで注文、SNSで投稿、何でもできる。 利用はChatGPTが無料なかぎり無料で、近日Chrome機能でリリース。 未来早すぎる。。。Ever thought ChatGPT could order you dinner? Turns out it can, and even do lots more 🤯 Introducing MULTI·ON: Your AI Web Co-Pilot powered by ChatGPT Sign up 👉: multion.ai And here's me ordering & eating the *world's first burger ordered by ChatGPT!*
00:00 - 深層学習の父、ジェフリーヒントン教授がNeurIPS2022 で誤差逆伝播法を使用しない学習手法「the Forward-Forward algorithm」を発表。Thought-provocative new paper from @geoffreyhinton: what if we could replace backpropagation with something better?
- これは「本当に」見るべきドキュメンタリー。驚き屋仕草ではないしビジネスの話でもない。人類史が変わる。 今後数年でニューラルネットワーク用の計算速度が10万倍になるだろうという発言があまりに衝撃的なんだけど、ニューロモーフィックチップでそこに到達？情報機関は知ってるのか？【イリヤ氏、独占ドキュメンタリー】 ChatGPTの開発中に収録された、イリヤ・スツケヴァー氏のAGIに関する独占ドキュメンタリーが必見の内容なので共有します。 AGIについてこれ以上にわかりやすく伝わる動画は見たことがないです。
00:00 - bloomberg.co.jp/news/articles/… 日本政府対応早すぎでは？AI関連に関してだけは対応が神がかってる。それにしても本当にこんな時代に突入しているんだなぁ、感慨深い。ブルーカラーにホワイトカラーが移動する余震が聞こえてくる。
- 2025年から2040年までの読むのに1時間以上かかるとてつもなく解像度の高い未来シナリオがLesswrongに投稿された。これは皆読んでほしい。 ・2026年にミレニアム未解決問題をGoogleのAIが解く。
- note.com/bioshok/n/n709… 情報収拾の仕方をよく聞かれるので、僕が個人的によく見ているサイトやリンクをここで随時更新してこうと思います。
- まさか、まさか、そんな、そんなことが…？そんな。 ChatGPT言語モデルはコマンドプロンプトをエミュレートでき、その中に別のある意味宇宙のインターネット世界があり、そして、そして、「 chat.openai.com/chat」にアクセスし、仮想宇宙内のChatGPT自身と話せる？！！ engraved.blog/building-a-vir…
- 普通に起きたら世界変わっていてわろたこんな時に仕事かよ とりあえずGPT4すごすぎるぞ。 自然科学や社会科学や人文科学などの選択問題MMLU 5shotでOpenAIのcode-davinci-002の77.4%が最大性能だったのに86.4% ・考えられるのは言語データの10^13token程度の学習 ・画像とのマルチモーダル学習性能向上
