Арнольда книжка ужасная - учить студентов по ней нельзя. Хинчин "Цепные дроби" намного лучше, но немного устаревшая. Мне нравится Rickett & Szuesz.

Что до многомерных алгоритмов, то их столько, что ясно, что "что-то не то". Самый популярный - Jacobi-Perron, наверное. Но всех хороших свойств одномерной модели нет ни у одного обобщения.