$('a.nazwaklasy').attr('rel', 'nazwarel').fancybox();
<a class="nazwaklasy" href="..."><img src="thumb.jpg"/></a>
////////////////////////// edit
trochę się pospieszyłem i po fakcie ogarnąłem, że o co innego ci chodziło, już poprawione - winno działac
<a class="nazwaklasy" href="..."><img src="thumb.jpg"/></a>
////////////////////////// edit
trochę się pospieszyłem i po fakcie ogarnąłem, że o co innego ci chodziło, już poprawione - winno działac