gpt4 book ai didi

webrtc - 如何在 WebRTC 的 MediaStream 中添加Track

转载 作者:行者123 更新时间:2023-12-04 02:16:55 26 4
gpt4 key购买 nike

我正在使用 webrtc 在对等方之间进行通信。我不想向旧生成的流添加新轨道,因为我不想为用户提供在音频通信期间切换麦克风的功能。我正在使用的代码是,

让“pc”是发生音频通信的 peerConnection 对象,“newStream”是从 getUserMedia 函数获得的新生成的 MediaStream 和新选择的麦克风设备。

            var localStreams = pc.getLocalStreams()[0];
localStreams.removeTrack(localStreams.getAudioTracks()[0]);


var audioTrack = newStream.getAudioTracks()[0];
localStreams.addTrack(audioTrack);

他们是否以任何方式使新添加的轨道开始到达另一个先前连接的对等点,而无需再次向他提供整个 SDP?

在这种情况下,当对等点之间已经建立连接时,在切换媒体设备(即麦克风)的这种情况下使用的优化方法是什么?

最佳答案

更新:底部附近的工作示例。
由于规范不断发展,这在很大程度上取决于您目前使用的浏览器。
the specification和 Firefox 一样,对等连接现在基本上是基于轨道的,并且不依赖于本地流关联。你有 var sender = pc.addTrack(track, stream) , pc.removeTrack(sender) , 甚至 sender.replaceTrack(track) ,后者根本不涉及重新谈判。
在 Chrome 中,您仍然只有 pc.addStreampc.removeStream ,并从本地流中删除轨道会导致停止发送它,但将其添加回来不起作用。我很幸运地将整个流删除并重新添加到对等连接,然后重新协商。
不幸的是,使用 adapter.js在这里没有帮助,因为 addTrack polyfill 很棘手。
重新谈判
重新谈判不是重新开始。所有你需要的是:

pc.onnegotiationneeded = e => pc.createOffer()
.then(offer => pc.setLocalDescription(offer))
.then(() => signalingChannel.send(JSON.stringify({sdp: pc.localDescription})));
.catch(failed);
添加后,对等连接会在需要时使用您的信令 channel 自动重新协商。这甚至取代了对 createOffer 的调用。和你现在正在做的 friend ,净赢。
有了这个,您可以在实时连接期间添加/删除轨道,它应该“正常工作”。
如果这还不够流畅,你甚至可以 pc.createDataChannel("yourOwnSignalingChannel")例子
以下是所有这些的示例(在 Chrome 中使用 https fiddle):

var config = { iceServers: [{ urls: "stun:stun.l.google.com:19302" }] };
var signalingDelayMs = 0;

var dc, sc, pc = new RTCPeerConnection(config), live = false;
pc.onaddstream = e => v2.srcObject = e.stream;
pc.ondatachannel = e => dc? scInit(sc = e.channel) : dcInit(dc = e.channel);

var streams = [];
var haveGum = navigator.mediaDevices.getUserMedia({fake:true, video:true})
.then(stream => streams[1] = stream)
.then(() => navigator.mediaDevices.getUserMedia({ video: true }))
.then(stream => v1.srcObject = streams[0] = stream);

pc.oniceconnectionstatechange = () => update(pc.iceConnectionState);

var negotiating; // Chrome workaround
pc.onnegotiationneeded = () => {
if (negotiating) return;
negotiating = true;
pc.createOffer().then(d => pc.setLocalDescription(d))
.then(() => live && sc.send(JSON.stringify({ sdp: pc.localDescription })))
.catch(log);
};
pc.onsignalingstatechange = () => negotiating = pc.signalingState != "stable";

function scInit() {
sc.onmessage = e => wait(signalingDelayMs).then(() => {
var msg = JSON.parse(e.data);
if (msg.sdp) {
var desc = new RTCSessionDescription(JSON.parse(e.data).sdp);
if (desc.type == "offer") {
pc.setRemoteDescription(desc).then(() => pc.createAnswer())
.then(answer => pc.setLocalDescription(answer)).then(() => {
sc.send(JSON.stringify({ sdp: pc.localDescription }));
}).catch(log);
} else {
pc.setRemoteDescription(desc).catch(log);
}
} else if (msg.candidate) {
pc.addIceCandidate(new RTCIceCandidate(msg.candidate)).catch(log);
}
}).catch(log);
}

function dcInit() {
dc.onopen = () => {
live = true; update("Chat:"); chat.disabled = false; chat.select();
};
dc.onmessage = e => log(e.data);
}

function createOffer() {
button.disabled = true;
pc.onicecandidate = e => {
if (live) {
sc.send(JSON.stringify({ "candidate": e.candidate }));
} else if (!e.candidate) {
offer.value = pc.localDescription.sdp;
offer.select();
answer.placeholder = "Paste answer here";
}
};
dcInit(dc = pc.createDataChannel("chat"));
scInit(sc = pc.createDataChannel("signaling"));
};

offer.onkeypress = e => {
if (e.keyCode != 13 || pc.signalingState != "stable") return;
button.disabled = offer.disabled = true;
var obj = { type:"offer", sdp:offer.value };
pc.setRemoteDescription(new RTCSessionDescription(obj))
.then(() => pc.createAnswer()).then(d => pc.setLocalDescription(d))
.catch(log);
pc.onicecandidate = e => {
if (e.candidate) return;
if (!live) {
answer.focus();
answer.value = pc.localDescription.sdp;
answer.select();
} else {
sc.send(JSON.stringify({ "candidate": e.candidate }));
}
};
};

answer.onkeypress = e => {
if (e.keyCode != 13 || pc.signalingState != "have-local-offer") return;
answer.disabled = true;
var obj = { type:"answer", sdp:answer.value };
pc.setRemoteDescription(new RTCSessionDescription(obj)).catch(log);
};

chat.onkeypress = e => {
if (e.keyCode != 13) return;
dc.send(chat.value);
log("> " + chat.value);
chat.value = "";
};

function addTrack() {
pc.addStream(streams[0]);
flipButton.disabled = false;
removeAddButton.disabled = false;
}

var flipped = 0;
function flip() {
pc.getSenders()[0].replaceTrack(streams[flipped = 1 - flipped].getVideoTracks()[0])
.catch(log);
}

function removeAdd() {
if ("removeTrack" in pc) {
pc.removeTrack(pc.getSenders()[0]);
pc.addStream(streams[flipped = 1 - flipped]);
} else {
pc.removeStream(streams[flipped]);
pc.addStream(streams[flipped = 1 - flipped]);
}
}

var wait = ms => new Promise(resolve => setTimeout(resolve, ms));
var update = msg => div2.innerHTML = msg;
var log = msg => div.innerHTML += msg + "<br>";
<video id="v1" width="120" height="90" autoplay muted></video>
<video id="v2" width="120" height="90" autoplay></video><br>
<button id="button" onclick="createOffer()">Offer:</button>
<textarea id="offer" placeholder="Paste offer here"></textarea><br>
Answer: <textarea id="answer"></textarea><br>
<button id="button" onclick="addTrack()">AddTrack</button>
<button id="removeAddButton" onclick="removeAdd()" disabled>Remove+Add</button>
<button id="flipButton" onclick="flip()" disabled>ReplaceTrack (FF only)</button>
<div id="div"><p></div><br>
<table><tr><td><div id="div2">Not connected</div></td>
<td><input id="chat" disabled></input></td></tr></table><br>
<script src="https://webrtc.github.io/adapter/adapter-latest.js"></script>

使用说明:
不涉及服务器,所以点击 Offer ,然后在两个选项卡之间手动剪切和粘贴报价并回答(粘贴后按 ENTER 键)。
完成后,您可以通过数据 channel 聊天,然后点击 addTrack将视频添加到另一侧。
然后,您可以使用 Remove + Add 切换远程显示的视频。或 replaceTrack (FF only) (如果您有要使用的辅助相机,请在 Chrome 中修改 fiddle 。)
重新协商现在都在数据 channel 上进行(不再是剪切粘贴)。

关于webrtc - 如何在 WebRTC 的 MediaStream 中添加Track,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/35504214/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com