本文内容

在本文中我将介绍如何将Vuforia的视频共享给Agora系统，利用声网提供的免费平台将实时视频内容共享出去。这次的案例中涉及两个技术点，一个是Vuforia的视频接口获取，一个是Agora系统以外部视频源的方式进行实时视频的传输。同时我们也通过这个小案例来熟悉两款SDK的使用。

SDK简介

本篇文章我们将介绍两款SDK：

第一款是声网的SDK，主要功能是进行实时视音频的传输、消息传输，兼容 iOS、Android、Windows、macOS、Web、小程序、RTOS、Flutter、Electron、React Native、Unity、Unreal 等 20 大开发平台。对于注册用户，每个月均有10000分钟的免费时长，这对于普通开发者进行如那件的开发和测试已经是足够的了，并且实测在4G网络的情况下端到端延迟<400ms，开发测试也是十分良好的体验，同时还有免费的后台管理系统对应用进行监控，这个后面用到时候再细说。

第二款是Vuforia的SDK，这是一款增强现实的底层SDK，也是可以免费使用的，是以Licence授权形式授权用户使用，对于没有购买Licence的开发者在视频画面的左下角会有“Vufiria”标志，当让对于开发者来说问题不大。

开发环境

主机：windows 10

引擎：Unity 3D 2019.3.1、Visual Studio 2015

实现步骤

我们将通过如下方式进行本次项目的实现。首先Vuforia支持以注册事件的方式回调自身因为AR所独占的视频数据，而Agora本身支持独占相机资源也支持以外部视频源的方式进行直播，我们需要将这两部分结合起来。同时，做这个视频共享的目的还有一个，就是将Unity 3D渲染的3D效果也同步直播出去，这才是最根本的目的。

第一步：导入SDK

（1）打开Unity 3D，创建工程。进入Unity的官方商城，分别获取到Vuforia的开发SDK和Agora的开发SDK

顺利导入之后，简单看一下结构：将所有相关内容作为一个Package放到一个文件夹是很好的习惯，不用担心里面的Plugins，系统会自动寻找其中的插件。基于Unity平台，目前Agora支持安卓、Iphone、Mac、Win32/64，不过还没有基于Unity3D平台的Html5的插件，期待未来能有实现（毕竟比较擅长Unity，其他不太熟悉）

使用Agora要使用licence，下面看一下注册和licence申请:

网址：https://www.agora.io/cn/

申请licence：成功登录尽可进入项目页面，在项目页面中即可创建项目（记得实名制哦）。

水晶球：项目的详细数据分析，这个功能目前我们还用不到，后面再介绍

（2）再来简单看一下需要配合来做的Vuforia。前面介绍过了，这是一款可以给开发者免费试用（加水印）的增强现实SDK，同样支持多平台的使用。

需要注意的是，我们同样需要申请licence，地址：https://developer.vuforia.com/。

打开“0-Main”场景，在下图的左下角点击“Open Vuforia.....”即可进入到相关配置页面，即输入licence的界面。

（3）小结：熟悉了本教程所用的两种SDK及其结构、功能、注册和Licence申请，对于这两种SDK有各种技术能力，感兴趣的同学可以在官方网站多停留一会。

第二步：Vuforia的准备工作

这一步中我们将完成一个AR场景的搭建，完成Vuforia视频的获取、屏幕截屏作为后期Agora视频源的输入。

（1）搭建AR场景：打开上图中“0-Main”场景，完成licence输入，选中场景中“ImageTarget”，在右侧“Image Target Behaviour”中选中如下内置识别图

（注意：首次选择From Database 会提示导入数据，请不要拒绝^_^，其次记得电脑上查摄像头）。点击运行或者CTRL+P运行，将摄像头对准识别图（识别图在Assets/Editor/Vuforia/ImageTargetTextures/VuforiaMars_Images/）即可看到模型在图片上。

（2）编写代码：简单介绍一下，这个脚本中我们使用了Vuforia提供的注册回调机制，将自身从相机获取的视频共享出来。要注意一下这其中比较重要的像素格式，同样在Agora系统中也会有像素格式的问题。

A：透明度 R：红色 G：绿 B：蓝

ARGB_4444：每个像素占四位，即A=4，R=4，G=4，B=4，那么一个像素点占4+4+4+4=16位

ARGB_8888：每个像素占四位，即A=8，R=8，G=8，B=8，那么一个像素点占8+8+8+8=32位

RGB_565：每个像素占四位，即R=5，G=6，B=5，没有透明度，那么一个像素点占5+6+5=16位

GrayScale：像素占四位，即R=G=B=gray

如下，“TakeScreen”函数是对整个Scene中一个Camera场景进行截图，目的是获取渲染后的相机效果。

...

public class VuforiaImageShare : MonoBehaviour

{

public UnityEngine.UI.RawImage tex;

public UnityEngine.UI.RawImage screenImage;

public Camera renderCamera;

#region PRIVATE_MEMBERS

private PIXEL_FORMAT mPixelFormat = PIXEL_FORMAT.UNKNOWN_FORMAT;

private bool mFormatRegistered = false;

#endregion // PRIVATE_MEMBERS

#region MONOBEHAVIOUR_METHODS

//作为共享的图片数据

Texture2D mTexture;

Texture2D screenShot;

Rect mRect;

private RenderTexture renderTex;

//启用相机画面或者屏幕渲染画面

public bool useCam = true;

void Start()

{

//注册的图片返回格式，有多种格式可选GRAYSCALE/RGBA8888/RGB565等常见格式

#if UNITY_EDITOR

mPixelFormat = PIXEL_FORMAT.RGBA8888; // Need Grayscale for Editor 经测试，在Editor模式同样可以RGBA8888

#else

mPixelFormat = PIXEL_FORMAT.RGB888; // Use RGB888 for mobile

#endif

//注册回调

// Register Vuforia life-cycle callbacks:

VuforiaARController.Instance.RegisterVuforiaStartedCallback(OnVuforiaStarted);

VuforiaARController.Instance.RegisterTrackablesUpdatedCallback(OnTrackablesUpdated);

VuforiaARController.Instance.RegisterOnPauseCallback(OnPause);

#endregion // MONOBEHAVIOUR_METHODS

// 创建一个RenderTexture对象

renderTex = new RenderTexture((int)Screen.width, (int)Screen.height, 0);

}

...

将以上脚本挂在任一场景中GameObject上，拖入对应的参数脚本运行程序，可以看到左下角为屏幕实时渲染的截图（包含渲染过的3D模型），右下角为实时获取的Vuforia实时回调图片。

（3）小结：至此我们完成了对于Agora数据的录入准备工作，包括视频原始数据和经过渲染的屏幕数据（较重要），后期在视频会议、远程协助等方面可以有比较多的应用。

第三步：Agora应用

我们在这一步将熟悉Agora的流程，跑通demo，学习外部视频源输入的代码。

（1）学习Demo场景。在如下场景中，输入按照之前步骤在agora官网创建项目获得的AppID，点击运行即可进入视频房间（是不是很简单(*^▽^*)）。

下面简单介绍几个重要函数：打开脚本“TestHelloUnityVideo”这里面的“loadEngine”即为Agora引擎重要的初始化步骤。

...

public void loadEngine(string appId)

{

// start sdk

Debug.Log("initializeEngine");

if (mRtcEngine != null)

{

Debug.Log("Engine exists. Please unload it first!");

return;

}

// init engine

mRtcEngine = IRtcEngine.GetEngine(appId);

// enable log

mRtcEngine.SetLogFilter(LOG_FILTER.DEBUG | LOG_FILTER.INFO | LOG_FILTER.WARNING | LOG_FILTER.ERROR | LOG_FILTER.CRITICAL);

}

...

下面的“join”函数，为用户加入房间以及各种回调函数的设计：

...

public void join(string channel)

{

Debug.Log("calling join (channel = " + channel + ")");

if (mRtcEngine == null)

return;

// set callbacks (optional)

mRtcEngine.OnJoinChannelSuccess = onJoinChannelSuccess;

mRtcEngine.OnUserJoined = onUserJoined;

mRtcEngine.OnUserOffline = onUserOffline;

// enable video

mRtcEngine.EnableVideo();

// allow camera output callback

mRtcEngine.EnableVideoObserver();

// join channel

mRtcEngine.JoinChannel(channel, null, 0);

}

...

接下来的“leave”函数，切记在程序退出时记得关闭，不然可能会导致一些bug。

...

public void leave()

{

Debug.Log("calling leave");

if (mRtcEngine == null)

return;

// leave channel

mRtcEngine.LeaveChannel();

// deregister video frame observers in native-c code

mRtcEngine.DisableVideoObserver();

}

...

（2）接下来，我们要完成Agora系统的外置视频源输入，有以下内容：

（a）设置Agora的SDK为外置视频源模式，在“join”函数中， mRtcEngine.SetExternalVideoSource(true, false);

请确保你是在调用pushExternalVideoFrame前已调用 setExternalVideoSource，并将参数 pushMode 设为 true ，不然调用本方法后会一直报错。

（b）添加外部视频源推送函数，需要注意的是：

VIDEO_PIXEL_FORMAT.VIDEO_PIXEL_RGBA;目前已经支持多种视频格式，在unity中不必讲RGBA再转换成BGRA（赞~）

externalVideoFrame.cropLeft;等四个位置，这里是做视频的裁剪

externalVideoFrame.rotation = 0;这里在移动端具有重要作用，作为视频的旋转设置

（c）依据第二步我们所获得的视频图片数据源（两种哈），形成完整的Agroa外置视频源系统代码(详细代码可在工程中查看）：

这一步我们将两个系统进行融合，下图是简单场景编写，详细内容会在附件连接中提供下载。下图为Agroa的AR识别场景，在开启后将可以看到AR场景并开启外部视频源的数据推送。

在此之前，我们需要将Agroa例程中的“SceneHome”输出为exe可运行程序（请记得licence和BuildSetting添加场景）。

导出后，请先运行编辑器中的AR场景，因为要抢占开发电脑的摄像头（agroa默认取第一个摄像头），创建好系统场景；

之后开启事先导出的Agroa的例程场景，输入频道号“Agora”即可，分别看一下只传输视频和传输AR视频的效果

下面是切换了AR渲染后的效果，可以明显看到在右侧客户端画面中，出现了渲染过的3D人物。

待解决的问题

（1）通过传送渲染过的相机，对计算能力的要求，目前本机I7 9700k，1050TI显卡，编辑器内可以达到60帧，是否有更高效的方法？

（2）仔细观察会发现，左侧屏幕中，Vuforia回调的视频画面是上下反转的，而传到左侧，又反转了一次；是什么问题该如何处理；

（3）仔细观察会发现，右侧原始画面在左侧展示时候，虽然压缩了但是明显的也被裁减了，这是为什么呢？

Agora SDK和Vuforia SDK共享视频

本文内容

SDK简介

实现步骤

第一步：导入SDK

第二步：Vuforia的准备工作

第三步：Agora应用

相关资源

你可能感兴趣的:(Agora SDK和Vuforia SDK共享视频)