Скорее всего Вы движетесь в верном направлении. Сложность вся в том, чтобы подобрать настройки подходящие под бумагу. Тут либо Cloth, либо Soft Body. Плюс ко всему, саму резинку перетягивающую купюры нужно делать физикой.
Изначально бросаете их на что-то (стержень), а затем сжимаете резинку в диаметре. При настройки материала бумаги старайтесь практически убрать скольжение, но не полностью.
Данное видео скорее подойдет для создания резинки, но возможно натолкнет на мысль по поводу бумаги.
И Ваши купюры сильно тонкие (просто плоскость). Однозначно нужна толщина.