В Карамзинской общественной библиотеке Розанов был постоянным читателем. Он проводил часы в тишине библиотечного покоя за изучением рекомендованных ему А.Н.Николаевым трудами Белинского, Писарева, Бокля, Фохта и других авторов.

Потрясающим открытием для Розанова стало то, что книги в Карамзинской библиотеке выдаются «совершенно даром»: «Да будет благословенна Карамзинская библиотека!.. Величественные и благородные люди города установили действительно прекрасное и местно-патриотическое правило, по которому каждый мог брать книги для чтения на дом совершенно бесплатно, внося только 5 руб. залога в обеспечение бережного отношения к внешности книг (не пачкать и не рвать, не трепать). Когда я узнал, что книги выдаются совершенно даром, даже и мне, такому неважному гимназистику, то я точно с ума сошёл от восторга и удивления!.. Так придумано и столько доброты. Довольно эта простая вещь поразила меня великодушием и хитростью изобретения. Как придумали величественные люди города!..».

Розанов мог не знать, что Карамзинская общественная библиотека такой и замышлялась. На общественных началах её создали земляки автора «Истории государства Российского» Николая Карамзина в память о нём.

В отделе редких книг современной Ульяновской областной научной библиотеки имени В.И.Ленина (бывшей Карамзинской) хранится первая книга Василия Розанова - философский труд «О понимании. Опыт исследования природы, границ и внутреннего строения науки как цельного знания».