(133 KB, 1309x403)
(482.21 KB, 849x2711)
(212.87 KB, 774x841)
(55.84 KB, 856x274)
(78.17 KB, 643x280)
Материалы и мыслишки. 1) Неотцензуренная GPT судя по намёкам может чуть больше и интереснее. Но насколько? "Тупость" ChatGPT от "RLHF фазы"? 2) https://habr.com/ru/post/709472/ https://www.lesswrong.com/posts/uHyZmfZKpXxo6uiEe/ai-psychology-should-ground-the-theories-of-ai-consciousness https://www.lesswrong.com/posts/yGaw4NqRha8hgx5ny/the-case-for-becoming-a-black-box-investigator-of-language https://www.lesswrong.com/posts/LbrPTJ4fmABEdEnLf/200-concrete-open-problems-in-mechanistic-interpretability https://www.lesswrong.com/posts/ddR8dExcEFJKJtWvR/how-evolutionary-lineages-of-llms-can-plan-their-own-future https://www.lesswrong.com/posts/oSPhmfnMGgGrpe7ib/properties-of-current-ais-and-some-predictions-of-the https://www.lesswrong.com/posts/yRAo2KEGWenKYZG9K/discovering-language-model-behaviors-with-model-written https://www.lesswrong.com/posts/vJFdjigzmcXMhNTsx/simulators https://www.lesswrong.com/posts/yRAo2KEGWenKYZG9K/discovering-language-model-behaviors-with-model-written https://www.lesswrong.com/posts/rxoBY9CMkqDsHt25t/eliciting-latent-knowledge-elk-distillation-summary Статья от "ИИ-психолога" лессвронговца. Там больше интересен типичный спор "это всего лишь программа и математика" в комментариях, в котором он внезапно демонстрирует "жидошизовую" позицию: "да вы человеки такие же". 3) "ИИ-психолог" утверждает, что у GPT есть концепция Я и нестабильное, но самоосознание. 4) Всё это "нейросети как люди, а люди как нейросети" мне только напоминает тех кадров, которые умудрялись до этого сравнивать работу мозга с фон-неймановским PC. А с чем там древние греки сравнивали это же? Как появляется какая-то техническая вещь, люди начинают говорить что вот оно, наше сознание совершенно точно работает как эта вещь! А ещё раньше мы работали на "частичке бога", ага. Так и аниме-персонажи живые и обладают "концепцией я".