Windows WebHDFS客户端到Cloudera Hadoop

本文关键字:Cloudera Hadoop 客户端 WebHDFS Windows | 更新日期: 2023-09-27 17:59:21

我们有一个Windows应用程序,它通过WebHDFS客户端进行良好通信(在孵化器阶段)http://hadoopsdk.codeplex.com/wikipage?title=WebHDFS%20Client&referringTitle=主页到Cloudera Hadoop安装。下一阶段是通过http建立Kerberos身份验证。在Windows客户端和Linux/Apache服务器之间,我很难找到关于这个主题的内容。

我看到的大多数例子都使用cURL——协商作为机制:http://hadoop.apache.org/docs/r1.0.4/webhdfs.html#Delegation+代币+操作

我为.Net找到的其他东西都很低http://msdn.microsoft.com/en-us/library/ms995331.aspx

有什么我可以使用的吗?还是我必须编写自定义代码?

Windows WebHDFS客户端到Cloudera Hadoop

我发现问题的解决方案是我误解了Kerebros SNEGO的实现方式。

对于那些处于同样困境的人,我希望这能有所帮助。。在用户登录客户端(对于一种配置)时,在客户端(Windows机器)和kdc(Linux)之间进行身份验证。在出票之后,可以以更安全的方式建立WebHDFS通信。这句话来自Cloudera团队(他们对BTW非常有帮助)。

"如果Cloudera集群被kerberized,那么服务器端的WebHDFS将接受SPNEGO Kerberos身份验证。如果该集群直接在AD领域中被kerberalized,并且最终用户已登录到同一AD域,那么如果Microsoft客户端支持,这就足够了。否则,他们要么必须使用MIT kerberos客户端和kinit向同一kerberos领域进行身份验证,要么应该在集群kerberos域和终端用户进行身份验证的AD域之间建立单向信任。"