NTL

number theory algebra mathematics application library programming C/C++

数論に基づくプログラミング用のライブラリに，NTLというC++のライブラリがあります．

なかなか高性能で，関数群も充実しているのでお勧めです．

FreeBSDだと/ports/math/ntlに入ってますね．

Project Eulerにも良いかもしれません．

ただ，クラスや関数群の構成にクセがあって，扱い辛いかもしれません．