- iOS/Objective-C 元类和类别
- objective-c - -1001 错误,当 NSURLSession 通过 httpproxy 和/etc/hosts
- java - 使用网络类获取 url 地址
- ios - 推送通知中不播放声音
我在面试中被问到这个问题。
我说让我们使用 cp。然后我被要求模仿实现 cp 本身。
所以我想好吧,让我们打开文件,一个一个地读取并将其写入另一个文件。
然后我被要求进一步优化它。我想让我们做大块的读取和写入这些 block 。关于什么是好的 block 大小,我没有一个好的答案。请帮我解决这个问题。
然后我被要求进一步优化。我想也许我们可以从不同的线程并行读取并并行写入。
但我很快意识到并行读取是可以的,但写入将无法并行工作(我的意思是没有锁定),因为来自一个线程的数据可能会覆盖其他线程。
所以我想好吧,让我们并行读取,将其放入队列中,然后单个线程将其从队列中取出并一个一个地写入文件。
这甚至可以提高性能吗? (我的意思不是小文件。如果是大文件,开销会更大)
此外,是否有类似操作系统的技巧,我可以将两个文件指向磁盘中的相同数据?我的意思是我知道有符号链接(symbolic link),但除此之外?
最佳答案
“复制文件的最快方式”将取决于系统 - 从存储介质到 CPU。最有可能的瓶颈是存储介质——但不一定是。想象一下高端存储可以比您的系统更快地移动数据可以创建物理页面映射以将数据读入...
一般来说,移动大量数据的最快方法是尽可能少地复制数据,并避免任何额外的操作,尤其是物理磁盘磁头寻道等 S-L-O-W 操作。
因此,对于普通单旋转磁盘工作站/台式机/笔记本电脑系统上的本地副本,最重要的事情是尽量减少物理磁盘寻道。这意味着在大块(例如 1 MB)中读取和写入单线程,以便系统可以进行任何优化,例如预读或写入合并。
这可能会让您达到系统最大复制性能的 95% 甚至更好。即使是标准 C 缓冲的 fopen()
/fread()
/fwrite()
也可能获得至少 80-90% 的最佳性能。
您可以通过几种方式获得最后几个百分点。首先,通过将您的 IO block 大小与文件系统 block 大小的倍数相匹配,以便您始终从文件系统读取完整的 block 。其次,您可以使用直接 IO 绕过通过页面缓存复制数据。磁盘->用户空间或用户空间->磁盘比磁盘->页面缓存->用户空间和用户空间->页面缓存->磁盘更快很重要,如果它甚至可以衡量的话。
您可以使用各种 dd
选项来测试复制这样的文件。尝试使用 direct
或 notrunc
。
您也可以尝试使用 sendfile()
避免将数据完全复制到用户空间。根据实现情况,这可能比使用直接 IO 更快。
预分配目标文件可能会也可能不会提高复制性能——这取决于文件系统。但是,如果文件系统不支持稀疏文件,则将文件预分配到特定长度可能会非常非常慢。
要显着提高同一个旋转物理磁盘之间的副本性能,您无能为力 - 那些磁盘磁头会跳舞,这需要时间。
SSD 更容易 - 要获得最大 IO 速率,只需通过多线程使用并行 IO。但同样,“正常”IO 可能会达到最大值的 80-90%。
为其他类型的存储系统优化 IO 性能变得更加有趣和复杂,例如大型 RAID 阵列和/或可以跨多个底层存储设备对单个文件进行 strip 化的复杂文件系统。在此类系统上最大化 IO 涉及将软件的 IO 模式与存储特性相匹配,这可能非常复杂。
最后,最大化 IO 率的一个重要部分是不要做会显着降低速度的事情。将物理磁盘拖到几 KB/秒的 IO 速率真的很容易——从整个磁盘的随机位置读取/写入小块。如果您的写入过程将 16 字节的 block 丢弃到随机位置,则磁盘将几乎所有时间都用于查找,并且在执行此操作时根本不会移动太多数据。
事实上,不要用糟糕的 IO 模式“自杀”比花费大量精力试图在最佳情况下快 4 或 5 个百分点重要得多。
因为如果 IO 是一个简单系统的瓶颈,那就去买一个更快的磁盘吧。
关于linux - 在本地复制大文件的最快方法,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/49546658/
今天我在一个 Java 应用程序中看到了几种不同的加载文件的方法。 文件:/ 文件:// 文件:/// 这三个 URL 开头有什么区别?使用它们的首选方式是什么? 非常感谢 斯特凡 最佳答案 file
就目前而言,这个问题不适合我们的问答形式。我们希望答案得到事实、引用或专业知识的支持,但这个问题可能会引起辩论、争论、投票或扩展讨论。如果您觉得这个问题可以改进并可能重新打开,visit the he
我有一个 javascript 文件,并且在该方法中有一个“测试”方法,我喜欢调用 C# 函数。 c# 函数与 javascript 文件不在同一文件中。 它位于 .cs 文件中。那么我该如何管理 j
需要检查我使用的文件/目录的权限 //filePath = path of file/directory access denied by user ( in windows ) File fil
我在一个目录中有很多 java 文件,我想在我的 Intellij 项目中使用它。但是我不想每次开始一个新项目时都将 java 文件复制到我的项目中。 我知道我可以在 Visual Studio 和
已关闭。此问题不符合Stack Overflow guidelines 。目前不接受答案。 这个问题似乎不是关于 a specific programming problem, a software
我有 3 个组件的 Twig 文件: 文件 1: {# content-here #} 文件 2: {{ title-here }} {# content-here #}
我得到了 mod_ldap.c 和 mod_authnz_ldap.c 文件。我需要使用 Linux 命令的 mod_ldap.so 和 mod_authnz_ldap.so 文件。 最佳答案 从 c
我想使用PIE在我的项目中使用 IE7。 但是我不明白的是,我只能在网络服务器上使用 .htc 文件吗? 我可以在没有网络服务器的情况下通过浏览器加载的本地页面中使用它吗? 我在 PIE 的文档中看到
我在 CI 管道中考虑这一点,我应该首先构建和测试我的应用程序,结果应该是一个 docker 镜像。 我想知道使用构建环境在构建服务器上构建然后运行测试是否更常见。也许为此使用构建脚本。最后只需将 j
using namespace std; struct WebSites { string siteName; int rank; string getSiteName() {
我是 Linux 新手,目前正在尝试使用 ginkgo USB-CAN 接口(interface) 的 API 编程功能。为了使用 C++ 对 API 进行编程,他们提供了库文件,其中包含三个带有 .
我刚学C语言,在实现一个程序时遇到了问题将 test.txt 文件作为程序的输入。 test.txt 文件的内容是: 1 30 30 40 50 60 2 40 30 50 60 60 3 30 20
如何连接两个tcpdump文件,使一个流量在文件中出现一个接一个?具体来说,我想“乘以”一个 tcpdump 文件,这样所有的 session 将一个接一个地按顺序重复几次。 最佳答案 mergeca
我有一个名为 input.MP4 的文件,它已损坏。它来自闭路电视摄像机。我什么都试过了,ffmpeg , VLC 转换,没有运气。但是,我使用了 mediainfo和 exiftool并提取以下信息
我想做什么? 我想提取 ISO 文件并编辑其中的文件,然后将其重新打包回 ISO 文件。 (正如你已经读过的) 我为什么要这样做? 我想开始修改 PSP ISO,为此我必须使用游戏资源、 Assets
给定一个 gzip 文件 Z,如果我将其解压缩为 Z',有什么办法可以重新压缩它以恢复完全相同的 gzip 文件 Z?在粗略阅读了 DEFLATE 格式后,我猜不会,因为任何给定的文件都可能在 DEF
我必须从数据库向我的邮件 ID 发送一封带有附件的邮件。 EXEC msdb.dbo.sp_send_dbmail @profile_name = 'Adventure Works Admin
我有一个大的 M4B 文件和一个 CUE 文件。我想将其拆分为多个 M4B 文件,或将其拆分为多个 MP3 文件(以前首选)。 我想在命令行中执行此操作(OS X,但如果需要可以使用 Linux),而
快速提问。我有一个没有实现文件的类的项目。 然后在 AppDelegate 我有: #import "AppDelegate.h" #import "SomeClass.h" @interface A
我是一名优秀的程序员,十分优秀!