Questa è davvero un'ottima domanda e siccome sono un grande fan dell'app Libby, ho cercato di scoprirlo: il meglio che sono riuscito a trovare (a giudicare solo dalle dimensioni dei file) è su (nel mio caso) la scheda SD esterna in varie sottocartelle sotto Android/data/com.overdrive.mobile.android.libby/files/Documents/Responses
Ovviamente, se non hai una sd-card installata, saranno più che probabilmente sulla memoria interna del telefono, con la stessa gerarchia di cartelle.
Ho solo un libro attualmente scaricato e nella suddetta cartella, ho 177 sottocartelle contenenti da 1 a 5 elementi ciascuna, per un totale di 296 file.
I nomi dei file sono in forma esidecimale a 32 caratteri, ad esempio d03136b916418cfffcb99fe5fb1b7e92 (nota: nessuna estensione).
Non citatemi, perché nessuno dei file ha un'estensione, quindi senza ulteriori test, non c'è modo di sapere che tipo di file siano.
Perché ho l'accesso come root sul mio telefono, ho potuto anche vedere quali file sono memorizzati sotto /data/data/com.overdrive.mobile.android.libby/ dove l'app è effettivamente installata. Il file più grande lì dentro si chiama databases/DeweyDb ed è 276KB. Posso solo supporre che questo leghi tutto insieme ... spero che questo aiuti =)