O pessoal que tem mais experiência com esse tipo de instalação já me recomendou não passar energia com o sinal da câmera. Se a distancia for pouca – conforme me disseram aqui no fórum, mas eu nunca testei – tipo uns 25m dá pra passar tudo junto, mas vai depender do tipo de câmera, pois depente da corrente que ela vai precisar para funcionar.
Bem, para usar a câmera com cabo UTP vc vai ter que usar um balun. O balun vc usa aos pares. Numa ponta próxima a placa de captura e outra próxima a câmera. Geralmente o balun é assim: de um lado tem dois para fusos para vc colocar os fios do cabo de rede e do outro lado uma conexão Coaxial. É bem simples de fazer.
Dá uma olhadinha aí: http://produto.mercadolivre.com.br/MLB-141286021-conversor-par-trancado-video-balun-alcance-400-metros-_JM
Me deram tbm a sugestão passar um cabo mesmo paralelo e se a distancia for muito grande, colocar mais uma fonte no caminho para melhorar o sinal.
Espero que dê certo.