知道使用的是哪种算法，程序用vb6编写

如果你有执行编码的程序二进制文件，你可以尝试使用这个插件来分析二进制文件:

http://www.hexblog.com/?p=27

Edit:另外，您可以直接反编译程序(使用dotPeek或ILSpy或Reflector)并查看其代码。您应该能够确定代码中包含加密逻辑的位置。如果你不清楚代码的作用，我们可以进一步帮助你。