1) Можно увеличить количество полигонов (Subsurf, например).
2) Сглаживания текстурой Вы не добьетесь, но визуально модели с текстурами выглядят лучше, нежели без и не заметно мелких косяков.
Впервые в жизни слышу вопрос о том, что Smooth не сглаживает. Скорее всего просто низкополигональная модель.
