Для этой цели можно использовать плагин Simulate Color Depth.
После загрузки вы найдете его в меню Эффекты -> Для фотографий -> Simulate Color Depth.
Плагин имеет ошибки при применении дизеринга, но для целей изменения битности изображения подойдет вполне.