Kompozycja żeromskiej powieści jest albumowa, luźna, a zdarzenia w niej ułożone zostały chronologicznie.
Dzieło złożone jest z dwóch tomów. Pierwszy z nich ma 10 rozdziałów, drugi – o 3 więcej. Wszystkie rozdziały mają swoje tytuły. Ukazano w nich nie wszystkie, acz najistotniejsze wydarzenia z życia doktora Tomasza Judyma. Jednakże nie jest on najważniejszą postacią w każdym rozdziale.
Weźmy na przykład rozdział, którego tytuł to „W drodze”. Mowa w nim przede wszystkim o rodzinie Wiktora Judyma. Inny rozdział, w którym głównym bohaterem nie jest Tomasz, to „Zwierzenia”. Tutaj najważniejsza jest Joasia Podborska, która zapisuje swoje myśli na kartkach pamiętnika.
Mało tego „Ludzie bezdomni” mają w sobie rozdziały liryczne. To charakterystyczne i lapidarne wtrącenia nastrojowe. Ich zadaniem jest spowolnić, a nawet zatrzymać akcję. Z takim działaniem mamy do czynienia w „Przyjdź” czy też „Smutek”. Podobną funkcję mają także liczne kawałki liryczne, które dość dokumentnie opisują, np. dany widok.