Самый простой способ сделать это - с уже существующим плагином JavaScript. Их там миллион, обычно называемый nicescroll или smoothscroll или что-то в этом роде. Вот один из самых популярных.
Боковое примечание. Как пользователь, я считаю, что гладкая прокрутка является крайне неприятным опытом, и я довольно часто оставляю веб-сайт, который его использует.